Сравнение символов по одному и тому же индексу двух строк

В вашем коде smallest является

std::vector<std::string>::iterator const

который является итератором произвольного доступа, поэтому предоставляет operator[].

Однако,

smallest[i]

эквивалентно

*(smallest + i)

поэтому он вернет ссылку на i-ю строку после строки, на которую указывает smallest вместо i-го символа строки, на которую указывает smallest (это то, что вы хотите).

Чтобы получить i-й символ строки, на которую указывает smallest, вы должны сначала почтить его:

(*smallest)[i]

И вы также должны уважать это в заявлении return.

Кроме того, я рекомендую вам передать strs как ссылку на const и проверить, что smallest не является конечным итератором (что может произойти, если входной вектор пуст):

string longestCommonPrefix(vector<string> const& strs) {
    auto comp = [](const string& a, const string& b) {
        return a.size() < b.size();
    };

    const auto smallest = std::min_element(strs.begin(), strs.end(), comp);
    if (smallest == strs.end()) return "";

    for (int i = 0; i < smallest->size(); ++i) {
        const auto letter = (*smallest)[i];
        for (const auto& s : strs) {
            if (s[i] != letter) return s.substr(0, i);
        }
    }

    return *smallest;
}