Con los resultados de la búsqueda disponibles, ahora es posible generar un prompt para enviar al LLM. El prompt debe incluir la pregunta original enviada por el usuario, los pasajes relevantes obtenidos en la fase de recuperación y las instrucciones al LLM indicando que la respuesta debe provenir de los textos incluidos.
Para renderizar el prompt, la aplicación emplea la función render_template() de Flask:
El archivo plantilla que se referencia en esta llamada está en la API/plantillas/rag_prompt.txt.
Puedes hacer cambios en esta plantilla si quieres ver su efecto en la calidad de las respuestas del chatbot. Pero siempre cerciórate de conservar el bucle for que representa los pasajes recuperados.
Previamente
Fase de recuperaciónPróximo
Fase de generación