Ключ API VectorStoreIndex при использовании службы AzureOpenAI
Я пытаюсь использовать VectorStoreIndex из llama_index решения проблемы RAG для чат-бота следующим образом:
import openai
from llama_index import VectorStoreIndex
index = VectorStoreIndex.from_documents(docs)
index.storage_context.persist()
Когда я читаю документацию, рекомендуется использовать openai.api_key = os.getenv('OPENAI_API_KEY'), чтобы иметь возможность связать модель с OpenAI. Но что мне делать, если я использую AzureOpenAI (то есть у меня есть api_key, azure_endpoint и api_version и нет openai api_key)? Если я использую openai.api_key = my_azure_api_key, это тоже не работает, потому что, очевидно, модель относится к https://platform.openai.com/account/api-keys, а не к службам AzureAI.
Извините, если вопрос покажется сомнительным, не удалось найти информацию в сети.
Спасибо!
Проверил это уже. Информации о lama-index, очевидно, не было..
Ответы 1
Решили это. На самом деле все, что вам нужно, это добавить параметр контекста в VectorStoreIndex.from_documents(). В этом параметре можно указать AzureOpenAI или AzureOpenAIEmbedding и, очевидно, использовать api_key, azure_endpoint и api_version.
index = VectorStoreIndex.from_documents(documents, service_context=service_context)
Я считаю, что вы просматриваете устаревшие документы или совершенно неправильную документацию. Читали ли вы какие-либо краткие руководства на сайте Microsoft? Существует множество примеров кода Python, которые показывают, как именно это можно сделать, используя службу Azure OpenAI (а не собственные конечные точки OpenAI) с имеющимися у вас значениями аутентификации.