Можно ли извлечь формулы обученных моделей машинного обучения на Python?
В моем проекте я должен использовать классификаторы для предсказания одного из 8 классов в зависимости от 6 входных значений. Мне нужно сравнить все классы контролируемого обучения на устройстве, на котором выполняется только код C++. Поэтому я использую python для обучения / подгонки моделей машинного обучения, но мне нужно выяснить окончательную формулу для каждого классификатора, чтобы запустить его на C++. Есть ли способ получить эти формулы / код из модели?
Используемые алгоритмы машинного обучения:
- Машины опорных векторов
- Наивный байесовский
- Линейная регрессия
- Линейный дискриминантный анализ
- Деревья решений
- Алгоритм K-ближайшего соседа
- Логистическая регрессия
- Нейронные сети
- Алгоритмы повышения градиента
- Случайный лес.
Фреймворк машинного обучения - это scikit learn. на самом деле я хочу запустить его на устройстве со сверхнизким энергопотреблением. поэтому мне нужно использовать саму формулу и, возможно, ее оптимизировать.
Я не думаю, что у scikit learn есть хороший механизм для экспорта на компилируемый язык. Было бы намного лучше использовать что-то вроде TensorFlow, которое позволит вам экспортировать модели и загружать их с помощью C++ API. повторная реализация всех этих алгоритмов для разумной работы на устройстве с низким энергопотреблением потребует много работы.
ты прав. но я думаю, что использование классификатора (это своего рода формула) не должно быть таким сложным. например, формула нейронной сети: сумма + = веса * входы (для 2 или 3 слоев на каждом узле). Я имею в виду, что сама реализация должна быть простой, независимо от времени вычислений. (Спасибо за ваши комментарии)
Ответы 1
Не существует общего механизма для преобразование модели машинного обучения Python для кода C++, поскольку код Python требует полной реализации во время выполнения.
Мне также нужно было запускать классификаторы на маломощных встраиваемых устройствах / микроконтроллерах. И начали реализовывать некоторые из перечисленных вами алгоритмов на языке C, дружественном к встроенным, на основе моделей, обученных в scikit-learn.
- Наивный Байес: залив
- Случайные леса / деревья решений: Emtrees. В конце концов, также деревья с градиентным усилением (XGBoost, LightGBM).
Доступны и другие проекты классификаторов, удобные для встраивания:
- Нейронные сети. uTensor позволяет запускать модели TensorFlow Lite на ARM Cortex с использованием CMSIS-NN.
- K-ближайший сосед (kNN). Классический кНН очень просто реализовать. Но поскольку в нем хранятся все обучающие образцы, размер модели обычно проблематичен для встроенных устройств. Было предложено много альтернатив, например ProtoNN. Реализован в ELL
Для других алгоритмов вы можете найти различные реализации C / C++, но большинство из них предназначены для использования с операционной системой (например, Linux). В зависимости от того, насколько ограничено ваше устройство, мощь можно использовать повторно. Затем вам нужно только реализовать экспорт модели из Python и импорт модели в библиотеку C++.
Какой фреймворк машинного обучения вы используете в Python? Вы могли бы фактически запустить модель как есть на устройстве, экспортировав ее и загрузив в исполняемый файл C++.