Ответ Mistral7b начинается с дополнительного пробела при потоковой передаче с помощью Ollama

Когда я транслирую ответ mistral7b LLM с помощью Ollama, слева от самого первого фрагмента потоковой передачи появляется дополнительное пространство. Ниже мой код:

import ollama

stream = ollama.chat(
  model='mistral',
  messages=[{'role': 'user', 'content': 'Name an engineer that passes the vibe check'}],
  stream=True
)

for chunk in stream:
  print(chunk['message']['content'], end='', flush=True)

Вывод выглядит следующим образом:

$ python3 test.py 
 Elon Musk, the CEO of SpaceX and Tesla, is an engineer who seems to pass the "vibe check." He is known for his innovative ideas in renewable energy, space travel, and transportation. However, it's important to remember that personality and vibes can be subjective, so not everyone may agree with this assessment. Additionally, Musk's public image should not overshadow the contributions of countless other engineers who are equally impressive but less well-known.

Обратите внимание на самое первое пустое место перед буквой «Е». Как мне удалить его?

python whitespace large-language-model ollama mistral-7b

29.06.2024 03:10

Почему в Python есть оператор "pass"?

Оператор pass в Python - это простая концепция, которую могут быстро освоить даже новички без опыта программирования.

Некоторые методы, о которых вы не знали, что они существуют в Python

Python - самый известный и самый простой в изучении язык в наши дни. Имея широкий спектр применения в области машинного обучения, Data Science,...

Основы Python Часть I

Вы когда-нибудь задумывались, почему в программах на Python вы видите приведенный ниже код?

LeetCode - 1579. Удаление максимального числа ребер для сохранения полной проходимости графа

Алиса и Боб имеют неориентированный граф из n узлов и трех типов ребер:

Оптимизация кода с помощью тернарного оператора Python

И последнее, что мы хотели бы показать вам, прежде чем двигаться дальше, это

Советы по эффективной веб-разработке с помощью Python

Как веб-разработчик, Python может стать мощным инструментом для создания эффективных и масштабируемых веб-приложений.

Перейти к ответу Данный вопрос помечен как решенный

Ответы 1

Ответ принят как подходящий

Используйте lstrip(), чтобы удалить пустое пространство.

import ollama

stream = ollama.chat(
  model='mistral',
  messages=[{'role': 'user', 'content': 'Name an engineer that passes the vibe check'}],
  stream=True
)
first = True
for chunk in stream:
    if first:
        chunk = chunk['message']['content'].lstrip()
        print(chunk)
        first = False
    else:
        chunk = chunk['message']['content']
        print(chunk)

29.06.2024 13:38

Другие вопросы по теме

ReSharper не применяет «новое» правило форматирования скобок в очистке кода

Написал невидимый пробел в VScode, но показал в командной строке

Regex для удаления неповторяющихся пробелов

Разделить строку один раз на первом пробеле в Rust

PostgreSQL — как найти специальные символы, пробелы, дополнительные вкладки и возврат каретки в текстовых полях?

Удалить пробел в начале текста

Расширение массива Bash с записями, содержащими пробелы

C# String.Split((string)null, , StringSplitOptions.RemoveEmptyEntries) не разбивается на пробелы, что он делает?

Ввод текста остается прокручиваемым по горизонтали с помощью «text-overflow: многоточие» в Chrome

Сохраняйте лишние пробелы при записи кадра данных pandas в файл

Ответ Mistral7b начинается с дополнительного пробела при потоковой передаче с помощью Ollama

Ответы 1

Другие вопросы по теме

Похожие вопросы