Mit den vorliegenden Suchergebnissen kann nun eine Aufforderung generiert werden, die an das LLM gesendet werden soll. Die Aufforderung muss die vom Benutzer ursprünglich gestellte Frage, die in der Abrufphase ermittelten relevanten Textpassagen sowie Anweisungen an das LLM enthalten, dass die Antwort aus den enthaltenen Textpassagen stammen soll.
Um die Eingabeaufforderung darzustellen, verwendet die Anwendung die render_template() -Funktion von Flask:
Die in diesem Aufruf referenzierte Vorlagendatei befindet sich in api/templates/rag_prompt.txt.
Sie können Änderungen an dieser Vorlage vornehmen, wenn Sie deren Auswirkungen auf die Qualität der Chatbot-Antworten sehen möchten. Achten Sie aber stets darauf, die for-Schleife beizubehalten, die die abgerufenen Passagen ausgibt.
Vorher
AbrufphaseNächste
Generationsphase