Я пытаюсь запустить этот блок кода в своем местном LLM.
if compile:
print("compiling the model")
unoptimized_model = model
model = torch.compile(model)
И это ошибка, которую я получаю:
Пожалуйста, помогите мне исправить это
Traceback (most recent call last):
File "c:\\Users\\abul4\\OneDrive\\Desktop\\LLM\\train.py", line 180, in \<module\>
model = torch.compile(model)
^^^^^^^^^^^^^^^^^^^^
File "C:\\Users\\abul4\\AppData\\Local\\Programs\\Python\\Python312\\Lib\\site-packages\\torch\__init_\_.py", line 1801, in compile
raise RuntimeError("Dynamo is not supported on Python 3.12+")
RuntimeError: Dynamo is not supported on Python 3.12+
Начиная с версии 2.2.0, Torch еще не поддерживает compile
Python 3.12.
Проверьте проблему pytorch/pytorch#120233 для более подробной информации.
Итак, на какой версии Python работает компиляция?
@Astolsko Попробуйте использовать py3.11 и не стесняйтесь принять ответ, если это было полезно :)
Поэтому используйте Python 3.11.