GridSearchCV в классификаторе KNN
Я новичок и сейчас работаю над своим проектом в Data Science Intro. В моем проекте мне нужно было настроить гиперпараметры с помощью GridSearchCV, чтобы найти лучшее значение K для модели KNN. Однако меня и моих коллег смутила проблема: использовать ли при выполнении этого процесса весь набор данных (X, y) или только обучающее подмножество (X_train, y_train).
- Использование всего набора данных. Некоторые утверждают, что использование всего набора данных дляgridsearchcv.fit(X, y) позволяет максимизировать данные, доступные для обучения, что потенциально приводит к более точному определению наилучшего значения K для модели KNN.
- Использование только обучающего набора. Другие предлагают использовать только обучающие данные для Gridsearchcv.fit(X_train, y_train), утверждая, что этот подход предотвращает утечку данных из невидимого тестового набора. Поскольку GridSearchCV выполняет перекрестную проверку, следует зарезервировать набор тестов для оценки окончательной модели.
Лично я старался использовать только обучающий набор для GridSearchCV, поскольку считаю необходимым сохранять тестовые данные только на последнем этапе. Не могли бы вы прояснить вопрос и какой подход более целесообразен для настройки гиперпараметров KNN с помощью GridSearchCV? Спасибо!
Ответы 1
На него уже ответили здесь и здесь. Настройка гиперпараметров — это также своего рода обучение на данных. Итак, вам нужно делать это только на тренировочном наборе. Использование всего набора данных — неправильный подход, поскольку вы не сможете оценить производительность своей модели на невидимых данных.