Возможно ли, чтобы параметр шаблона был ссылочным типом?

Они оба правы:

См. код, сгенерированный в cppinsights.

template<typename T1, typename T2>
auto max(T1 a, T2 b) -> decltype(b<a?a:b) {
  return b < a ? a : b;
}

template<typename T1, typename T2>
auto max2(T1 a, T2 b){
  return b < a ? a : b;
}

max(j,i);
max2(j,i);

Будет «генерировать»:

template<>
int & max<int, int>(int a, int b)
{
  return b < a ? a : b;
}

template<>
int max2<int, int>(int a, int b)
{
  return b < a ? a : b;
}

Проблема в C++11 -> decltype(b<a?a:b) если его удалить (в C++14 и более), функция больше не будет возвращать ссылку

static_assert( is_same_v<decltype(i),int> );
static_assert( is_same_v<decltype((i)),int&> );
static_assert( is_same_v<decltype(i+j),int> );
static_assert( is_same_v<decltype(true?i:j),int&> );

См. https://en.cppreference.com/w/cpp/language/operator_other#Conditional_operator

4) If E2 and E3 are glvalues of the same type and the same value category, then the result has the same type and value category [...]

5) Otherwise, the result is a prvalue [...]

В С++ это означает:

static_assert( is_same_v<decltype(true?i:j),int&> ); // E2 and E3 are glvalues 
static_assert( is_same_v<decltype(true?i:1),int> ); // Otherwise, the result is a prvalue

since T1 or T2 might be a reference, so that the return type could be a reference type.

Я предполагаю, что это неправильно процитировано. Тип возвращаемого значения может быть ссылочным, но по разным причинам.

Если вы пойдете немного дальше в своем вторая книга. В Пункт 3 вы найдете ответ на свой вопрос.

Applying decltype to a name yields the declared type for that name. Names are typically lvalue expressions, but that doesn’t affect decltype’s behavior. For lvalue expressions more complicated than names, however, decltype generally ensures that the type reported is an lvalue reference. That is, if an lvalue expression other than a name has type T, decltype reports that type as T&.

There is an implication of this behavior that is worth being aware of, however. In

int x = 0;

x is the name of a variable, so decltype(x) is int. But wrapping the name x in parentheses—“(x)”—yields an expression more complicated than a name. Being a name, x is an lvalue, and C++ defines the expression (x) to be an lvalue, too. decltype((x)) is therefore int&. Putting parentheses around a name can change the type that decltype reports for it!

Теперь остался единственный вопрос:

Является ли b<a?a:b lvalue?

От cppreference

4) If E2 and E3 are glvalues of the same type and the same value category, then the result has the same type and value category, and is a bit-field if at least one of E2 and E3 is a bit-field.

Итак, a и b являются lvalue, и если они одного типа, b<a?a:b также будет lvalue. Смотрите хорошее объяснение здесь.

Это означает, что возвращаемый тип для вызова max(1, 2) будет int&, а для max(1, 2.0) будет int