при нахождении квадратного корня выполняем число**0,5, а что значит - знак перед 0,5.
Смотрел код (специально смотрел ViT Code, а тут для масштабирования добавили:
self.scale = self.head_dim ** -0.5
Пожалуйста, помогите мне понять его значение. Я провел несколько экспериментов на своем терминале, но не понял, что происходит:
>>> a = 4
>>> a**0.5
2.0
>>>
>>> a**-0.5
0.5
Ищите «Отрицательные степени» здесь: Возведение в степень — Wikipdeia.
@mousetail Да, извините, я пропустил тот факт, что отрицательный знак просто взаимный (я знал, что просто не мог вспомнить). Спасибо за ответы. Я приму его, как только таймер выключится.






Взаимный. x**-n == 1/(x**n).......
Это просто отрицательный знак.
a ** ( - 0.5)