Легенда Matplotlib с разрывами строк

В python вы можете конкатенировать строки следующим образом:

"hello " "world"

и производить "hello world". Но если вы сделаете это, это синтаксическая ошибка:

"{} ".format("hello") "world"

Итак, если вы хотите объединить вывод format(), используйте +:

"{} ".format("hello") + "world"

И в вашем случае (разрыв строки добавлен для удобства чтения):

plt1.legend([plot1_R], [
    "$f(x) = {m}*x +{b}$".format(m=np.round(A[1],2), b=np.round(A[0],2))
    + "\n"
    + "$R2 = {r}$".format(r=np.round(A[2],2))
])

Рассмотрите возможность использования одной строки для форматирования

import matplotlib.pyplot as plt

A = [5,4,3]

fig, ((ax1, ax2, ax3), (ax4, ax5, ax6)) = plt.subplots(2, 3, figsize=(22,10), sharex='col', sharey='row')

plot1, = ax1.plot([0,1], linestyle='None', marker='o', color='#6E9EAF', markersize=5)

plot1_R, = ax1.plot([0,1], linewidth=2, color = "orange")

ax1.legend([plot1_R], 
           ["$f(x) = {m}*x +{b}$\n$R2 = {r}$".format(m=np.round(A[1],2), 
                                                     b=np.round(A[0],2), r=np.round(A[2],2))])

plt.show()

Также здесь могут пригодиться f-строки, где округление выполняется на уровне форматирования.

ax1.legend([plot1_R], [f"$f(x) = {A[1]:.2f}*x +{A[0]:.2f}$\n$R2 = {A[2]:.2f}$"])