Неполнота ответа LLama3

Я получаю неполный ответ от мета-ламы/Мета-ламы-3-8B-Укажите, что я могу сделать, чтобы улучшить полноту ответа.

import requests
import os
from dotenv import load_dotenv
import streamlit as st
import PyPDF2 as pdf
import warnings
warnings.filterwarnings('ignore')

load_dotenv()
key = os.getenv('HF_TOKEN')

def input_pdf_text(uploaded_file):
    reader=pdf.PdfReader(uploaded_file)
    text = ""
    for page in range(len(reader.pages)):
        page=reader.pages[page]
        text+=str(page.extract_text())
    return text

input_prompt = """You are an skilled ATS (Applicant Tracking System) scanner with a deep understanding of Human Resources and ATS functionality, your task is to evaluate the resume against the provided job description. give me the percentage of match if the resume matches
the job description. First the output should come as percentage and then keywords missing and last final thoughts.""" 

if uploaded_file is not None:
    pdf_content = input_pdf_text(uploaded_file)

if uploaded_file is not None:
    st.write("PDF Uploaded Successfully") 

submit3 = st.button("Percentage match")

API_URL = "https://api-inference.huggingface.co/models/meta-llama/Meta-Llama-3-8B-Instruct"
headers = {"Authorization": f"Bearer {key}"}

def query(payload):
    response = requests.post(API_URL, headers=headers, json=payload) 
    return response.json()

if submit3:
    if uploaded_file is not None:
        input_data = f"""
            input prompt: {input_prompt}
            job description: {input_text}
            resume: {pdf_content}
        """
        response1 = query({
            "inputs": input_data
        })
        data = response1[0]["generated_text"]
        st.subheader("Analysis")
        st.write(data)        

Мне нужно повысить полноту и точность ответов, генерируемых моделью Llama 3.

Дайте им несколько примеров тестовых примеров, и вы дали им только краткую инструкцию, но этого недостаточно.

No Yeah 29.04.2024 07:41

PyPDF2 устарел. Используйте пипдф.

Martin Thoma 29.04.2024 08:40
Почему в Python есть оператор "pass"?
Почему в Python есть оператор "pass"?
Оператор pass в Python - это простая концепция, которую могут быстро освоить даже новички без опыта программирования.
Некоторые методы, о которых вы не знали, что они существуют в Python
Некоторые методы, о которых вы не знали, что они существуют в Python
Python - самый известный и самый простой в изучении язык в наши дни. Имея широкий спектр применения в области машинного обучения, Data Science,...
Основы Python Часть I
Основы Python Часть I
Вы когда-нибудь задумывались, почему в программах на Python вы видите приведенный ниже код?
LeetCode - 1579. Удаление максимального числа ребер для сохранения полной проходимости графа
LeetCode - 1579. Удаление максимального числа ребер для сохранения полной проходимости графа
Алиса и Боб имеют неориентированный граф из n узлов и трех типов ребер:
Оптимизация кода с помощью тернарного оператора Python
Оптимизация кода с помощью тернарного оператора Python
И последнее, что мы хотели бы показать вам, прежде чем двигаться дальше, это
Советы по эффективной веб-разработке с помощью Python
Советы по эффективной веб-разработке с помощью Python
Как веб-разработчик, Python может стать мощным инструментом для создания эффективных и масштабируемых веб-приложений.
1
2
294
1
Перейти к ответу Данный вопрос помечен как решенный

Ответы 1

Ответ принят как подходящий

Добавьте это в свой запрос:

max_new_tokens = 4096

И используйте этуподсказочную технику.

Другие вопросы по теме