Приложению RAG не удается использовать DataAPIClient: «Ошибка загрузки клиента fetch-h2 для DataAPIClient... попробуйте установить для httpOptions.client значение «fetch»»

ошибка:

<scriptid = "__NEXT_DATA__"type = "application/json">{
    "props": {
        "pageProps": {
            "statusCode": 500
        }
    },
    "page": "/_error",
    "query": {
        "__NEXT_PAGE": "/api/chat"
    },
    "buildId": "development",
    "isFallback": false,
    "err": {
        "name": "Error",
        "source": "server",
        "message": "Error loading the fetch-h2 client for the DataAPIClient... try setting httpOptions.client to 'fetch'",
        "stack": "Error: Error loading the fetch-h2 client for the DataAPIClient... try setting httpOptions.client to 'fetch'\n

выше ошибка произошла в тряпичном приложении.

Маршрут API, при вызове которого произошла ошибка.

import { NextRequest, NextResponse } from 'next/server';
import { getVectorStore } from '@/lib/astradb';
import { AIMessage, HumanMessage } from '@langchain/core/messages';
import {
  ChatPromptTemplate,
  MessagesPlaceholder,
  PromptTemplate,
} from '@langchain/core/prompts';
import { ChatOpenAI } from '@langchain/openai';
import { Redis } from '@upstash/redis';
import { Ratelimit } from '@upstash/ratelimit';
import {
  LangChainStream, StreamingTextResponse,
  Message as VercelChatMessage,
} from 'ai';
import { UpstashRedisCache } from '@langchain/community/caches/upstash_redis';
import { createStuffDocumentsChain } from 'langchain/chains/combine_documents';
import { createHistoryAwareRetriever } from 'langchain/chains/history_aware_retriever';
import { createRetrievalChain } from 'langchain/chains/retrieval';
import https from 'https';


const ratelimit = new Ratelimit({
  redis: Redis.fromEnv(),
  limiter: Ratelimit.fixedWindow(8, '30s'),
});

export async function POST(req: NextRequest) {

console.info('api requested,dddddddddddddddddddddddddddddd')

  try {

 const ip = req.ip ?? 'ip';
 const { success, remaining } = await ratelimit.limit(ip);

 // block the request if unsuccessful
 if (!success) {
   return new Response('Ratelimited!', { status: 429 });
 }

    const body = await req.json();
    const messages = body.messages;

    const chatHistory = messages
      .slice(0, -1)
      .map((m: VercelChatMessage) =>
        m.role === 'user'
          ? new HumanMessage(m.content)
          : new AIMessage(m.content)
      );

    const currentMessageContent = messages[messages.length - 1].content;

    const cache = new UpstashRedisCache({
      client: Redis.fromEnv({
        agent: new https.Agent({ keepAlive: true }),
      }),
    });

    const { stream, handlers } = LangChainStream();

    const chatModel = new ChatOpenAI({
      apiKey: process.env.OPENAI_API_KEY!,`your text`
      modelName: 'gpt-3.5-turbo',``your text``
      streaming: true,
      callbacks: [handlers],
      verbose: true,
      cache,
    });

    const rephrasingModel = new ChatOpenAI({
      apiKey: process.env.OPENAI_API_KEY!,
      modelName: 'gpt-3.5-turbo',
      verbose: true,
      cache,
    });

    const retriever = (await getVectorStore()).asRetriever();

    const rephrasePrompt = ChatPromptTemplate.fromMessages([
      new MessagesPlaceholder('chat_history'),
      ['user', '{input}'],
      [
        'user',
        'Given the above conversation, generate a search query to look up in order to get information relevant to the current question. ' +
          "Don't leave out any relevant keywords. Only return the query and no other text.",
      ],
    ]);

    const historyAwareRetrieverChain = await createHistoryAwareRetriever({
      llm: rephrasingModel,
      retriever,
      rephrasePrompt,
    });

    const prompt = ChatPromptTemplate.fromMessages([
      [
        'system',
        "You are a chatbot for a Decentralized betting website nameDecentBet. You impersonate the website's owner. " +
          "Answer the user's questions based on the below context. " +
          'Format your messages in markdown format.\n\n' +
          'Context:\n{context}',
      ],
      new MessagesPlaceholder('chat_history'),
      ['user', '{input}'],
    ]);

    const combineDocsChain = await createStuffDocumentsChain({
      llm: chatModel,
      prompt,
      // documentPrompt: PromptTemplate.fromTemplate(
      //   'Page URL: {url}\n\nPage content:\n{page_content}'
      // ),
      documentSeparator: '\n--------\n',
    });

    const retrievalChain = await createRetrievalChain({
      combineDocsChain,
      retriever: historyAwareRetrieverChain,
    });

    retrievalChain.invoke({
      input: currentMessageContent,
      chat_history: chatHistory,
    });

    return new StreamingTextResponse(stream);
  } catch (error) {
    console.error("Error:---",error);
    return NextResponse.json({ error: 'Internal server error' }, { status: 500 });
  }
}

вот код маршрута, в котором при вызове возникает ошибка, как ни странно, тот же код работает нормально с другим моим приложением.

внедрение astra db:<

 import { AstraDB } from '@datastax/astra-db-ts';
import { DataAPIClient } from '@datastax/astra-db-ts';
import { AstraDBVectorStore } from '@langchain/community/vectorstores/astradb';
import { OpenAIEmbeddings } from '@langchain/openai';
const endpoint = process.env.ASTRA_DB_ENDPOINT || '';
const token = process.env.ASTRA_DB_APPLICATION_TOKEN || '';
const collection = process.env.ASTRA_DB_COLLECTION || '';   



if (!token || !endpoint || !collection) {
  throw new Error(
    'Please set ASTRA_DB_ENDPOINT, ASTRA_DB_APPLICATION_TOKEN, and ASTRA_DB_COLLECTION environment variables.'
  );
}

export async function getVectorStore() {
  return AstraDBVectorStore.fromExistingIndex(
    new OpenAIEmbeddings({ modelName: 'text-embedding-3-small' }),
    {
      token,
      endpoint,
      collection,
     
      collectionOptions: {
        vector: {
          dimension: 1536,
          metric: 'cosine',
        },
        }
    }
  );
}
const client = new DataAPIClient(token);
const db = client.db(endpoint);


export async function getEmbeddingsCollection() {
 return db.collection(collection);
}

не удалось преодолеть эту ошибку, но тот же код с теми же зависимостями работает нормально в другом приложении (https://github.com/Sandeepreddyr12/My-Portfolio/blob/main/src/app/api/chat/route.ts).

примечание: я переписал последний код из соответствующей документации, но не сработал, не справившись с этой ошибкой.

стек next js, ai lib для потоковой передачи, кэширование upstash, datastax astradb для встраивания.

пожалуйста, дайте мне знать, как обойти это. Спасибо

Возможно, вы столкнулись с немного сломанной версией зависимости @datastax/astra-db-ts. Я попробую обновить его, поставив npm install @datastax/astra-db-ts@latest, и сообщу, как все пройдет.

philnash 17.06.2024 02:33

спасибо, это сработало, это сработало, выдавая другую ошибку, в конце концов это решилось. tq

Sandeepreddy 17.06.2024 05:51

О, круто. Тогда я добавлю это как реальный ответ, если вы тоже не против пометить как принятый.

philnash 17.06.2024 06:40
Стоит ли изучать PHP в 2026-2027 годах?
Стоит ли изучать PHP в 2026-2027 годах?
Привет всем, сегодня я хочу высказать свои соображения по поводу вопроса, который я уже много раз получал в своем сообществе: "Стоит ли изучать PHP в...
Поведение ключевого слова "this" в стрелочной функции в сравнении с нормальной функцией
Поведение ключевого слова "this" в стрелочной функции в сравнении с нормальной функцией
В JavaScript одним из самых запутанных понятий является поведение ключевого слова "this" в стрелочной и обычной функциях.
Приемы CSS-макетирования - floats и Flexbox
Приемы CSS-макетирования - floats и Flexbox
Здравствуйте, друзья-студенты! Готовы совершенствовать свои навыки веб-дизайна? Сегодня в нашем путешествии мы рассмотрим приемы CSS-верстки - в...
Тестирование функциональных ngrx-эффектов в Angular 16 с помощью Jest
В системе управления состояниями ngrx, совместимой с Angular 16, появились функциональные эффекты. Это здорово и делает код определенно легче для...
Концепция локализации и ее применение в приложениях React ⚡️
Концепция локализации и ее применение в приложениях React ⚡️
Локализация - это процесс адаптации приложения к различным языкам и культурным требованиям. Это позволяет пользователям получить опыт, соответствующий...
Пользовательский скаляр GraphQL
Пользовательский скаляр GraphQL
Листовые узлы системы типов GraphQL называются скалярами. Достигнув скалярного типа, невозможно спуститься дальше по иерархии типов. Скалярный тип...
1
3
56
1
Перейти к ответу Данный вопрос помечен как решенный

Ответы 1

Ответ принят как подходящий

Есть несколько версий @datastax/astra-db-ts, которые вызывают эту ошибку. Недавно это было исправлено, поэтому вам следует обновить зависимость до последней версии.

npm install @datastax/astra-db-ts@latest

Другие вопросы по теме