Как мне запустить уже написанную параллельную программу на массиве графического процессора?
У меня есть нейронная сеть, написанная на Erlang, и я только что купил карту GeForce GTX 260 с 240-ядерным графическим процессором. Тривиально ли использовать CUDA в качестве клея для запуска этого на видеокарте?
@none: Я в этом сомневаюсь. Модель параллелизма Erlang не очень хорошо сочетается с такими языками моделей параллелизма, как CUDA или OpenCL. Я предпринял некоторые (пока не опубликованные) попытки написать привязки openCL для erlang, но на данный момент я вижу единственное реальное приложение, которое выполняет такие вещи, как быстрые преобразования матриц.
Ответы 2
Нет, использование CUDA - нетривиальное дело.
Модель программирования CUDA в основном использует C (с некоторыми дополнениями), но для того, чтобы максимально использовать возможности GPGPU, вам необходимо убедиться, что ваши алгоритмы следуют рекомендациям CUDA. (см. Руководство по программированию NVidia CUDA)
Например, чтобы получить наилучшую производительность памяти (где-то около 70 Гбит / с), вам необходимо получить доступ к памяти в потоковом режиме с объединением, также ветки очень дороги для графических процессоров, поэтому вам следует по возможности избегать условных обозначений. Ознакомьтесь с руководством и примерами, поставляемыми с SDK, они станут отличной отправной точкой.
Ага, это много работы. Чтобы получить значительное ускорение, вам нужно понять, как упорядочивать данные, а также концепцию полудисков и слияния, как уже упоминалось. Также я считаю, что целевой машинный код изменяется в соответствии с серией графических процессоров ...
Хотел бы я рассказать вам, как это сделать с помощью Erlang ... ;-), но, по крайней мере, Сатнам Сингх из MS Research проделал очень интересную работу с Haskell (Lava) и F#. Возможно, этот документ может дать вам некоторое представление о том, как это сделать мог:
http://research.microsoft.com/en-us/people/satnams/
Неработающей ссылке. Домашняя страница Satnam находится здесь: research.microsoft.com/en-us/people/satnams
замечательный вопрос, возможно, вы захотите поднять его в сообществе erlang, это может вдохновить на некоторые действительно замечательные изменения в erlang! :-)