Вычислить остаточную норму для множественной регрессии в Python
Учитывая матрицу предикторов X, вектор наблюдений Y и параметры тета-модели, как можно рассчитать остаточную норму с использованием Python, numPy или sciPy?
Я пробежался через numpy.linalg.lstsq, linalg.norm и несколько попыток вычислений вручную, чтобы решить следующее уравнение: ∥r∥2 = ∥Xθ ∗ −y∥2, но безуспешно. Какие-либо предложения?
Не могли бы вы добавить уравнение и любую другую ценную информацию к своему исходному сообщению? Я взял на себя смелость добавить теги python и numpy, но подумал, что окажу вам честь сделать все остальное (поскольку я ничего не знаю по обсуждаемой теме). ?
Ответы 1
Предполагая, что вы хотите вычислить остаточную 2-норму для линейной модели, это очень простая операция в numpy. Вот простой пример наблюдений n=10 с параметрами d=3 и всеми значениями случайных матриц:
import numpy as np
n = 10
d = 3
X = np.random.rand(n, d)
theta = np.random.rand(d, 1)
y = np.random.rand(n, 1)
r = np.linalg.norm(X.dot(theta) - y)
Метод dot вычисляет стандартное матричное умножение в numpy. Нормой по умолчанию, используемой numpy.linalg.norm, является 2-норма.
Большое спасибо. Это решило проблему. Учитывая формулу r∥2 = ∥Xθ ∗ −y∥2, как вы узнаете, что Xθ ∗ требует метода транспонирования?
@Jackson Рад помочь! Я не совсем уверен, что означает эта формула и откуда она взялась - символ звезды после теты - это сопряженное транспонирование? Не могли бы вы связать меня с веб-сайтом, объясняющим это? Кроме того, я не использовал оператор транспонирования (.T в numpy), но в целом вы должны проверить, что матрицы, которые вы умножаете, имеют правильное количество строк и столбцов.
Привет @ Джексон! что ты уже испробовал? :-)