Как исправить ошибки буфера в то время как?

Проблема в том, что вы читаете «команду» посимвольно. Если вы введете два недопустимых символа, первый вызов scanf(" %c", &op) прочитает первый, но второй недопустимый ввод все еще находится в буфере, чтобы быть прочитанным следующим вызовом.

Как я советовал в комментарии, используйте fgets, чтобы читать целые строки, а затем, например. sscanf для анализа ввода:

char buffer[256];  // No need to skimp on space

if (!fgets(buffer, sizeof buffer, stdin))
{
    // Failed to read input
    // TODO: Handle this case
}

if (sscanf(" %c", &op) != 1)
{
    // Invalid input
    // TODO: Handle this case
}

Это больше кода, но он будет более надежным и безопасным, чем ваш текущий код.

Сделайте что-то подобное для числового ввода.

Я также предлагаю вам поместить их в отдельные функции, что упрощает чтение кода, его тестирование и отладку при необходимости.

Обратите внимание, что хотя код, описанный выше, сделает вашу обработку ввода лучше и безопаснее, он не идеален.

Назойливый пользователь может ввести строку длиннее 255 символов, и в этом случае мы в основном возвращаемся к тому, с чего начали, где в буферах остается избыточный ввод.

Чтобы быть действительно безопасным от этого, вы должны проверить, является ли последний символ во вводе из fgets новой строкой, и если нет, то сообщите пользователю о недопустимом вводе и используйте fgets (возможно, даже просто fgetc) в цикле, пока вы не прочитаете новая строка.

Ключевой частью вашей программы являются две строки

printf("Select an operation: ");
scanf(" %c", &op);

Предположим, вы набираете A. scanf читает один символ, присваивает его op, последующая часть вашей программы распознает A для добавления и делает свое дело.

Предположим, вы набираете O. scanf читает один символ, присваивает его op, но более поздняя часть вашей программы не распознает символ и поэтому печатает «Неизвестная команда».

Предположим, вы набираете XYZ. scanf читает первый символ X и присваивает его op. Но, опять же, более поздняя часть вашей программы не распознает символ и поэтому печатает «Неизвестная команда». Но на этот раз, когда программа возвращается к началу, эти два непрочитанных символа YZ все еще находятся во входном потоке. Таким образом, scanf может сразу прочитать следующий символ, Y, и назначить его op. Что более поздняя часть вашей программы не распознает. И затем, когда программа зацикливается в третий раз, она уже получает этот Z во входном потоке для чтения.

Ключевые вещи, которые нужно понять:

1. scanf не читает строки ввода.
2. Во входном потоке остается непрочитанный или нераспознанный ввод.

Таким образом, программа, использующая scanf, очень часто запутывается, когда какой-то непрочитанный или нераспознанный ввод, напечатанный в том, что вы считали «предыдущей строкой», на самом деле все еще висит во входном буфере, где он считывается более поздним вызовом. на scanf, казалось бы, сразу, даже не дожидаясь, пока вы что-нибудь наберете.

Хотя scanf достаточно просто использовать для простого ввода, на самом деле это довольно странная функция и, как вы видели, может быть очень запутанной. В частности, если вы думаете, что пользователь вводит строку текста и нажимает клавишу «Ввод», часто лучше, чтобы ваша программа работала так же, читая ввод построчно, используя что-то вроде fgets, как это предлагается в нескольких комментариев. См. этот ответ для получения дополнительной информации о чтении ввода с использованием чего-то другого, кроме scanf.

См. также этот предыдущий вопрос для дальнейшего обсуждения того, как scanf на самом деле работает.