チャットボット アプリが実行されるようになったので、 Elastic Observabilityを使用してアプリケーションを監視することもできます。Elastic は、データ変換を必要とせずに OTel データを取り込んで保持することで、100% OpenTelemetry ネイティブを実現します。
Chatbot アプリはすでに OpenTelemetry ( EDOTを使用) で構成済みです。
どうすれば痕跡を残せますか?
.env でOTEL_SDK_DISABLED=falseを設定しますファイルを作成すると、アプリはログ、メトリック、トレースをローカル Elastic デプロイメントに送信します。
詳細については、 Chatbot アプリの README の OpenTelemetry セクションを参照してください。
トレースは、OpenAI、Azure OpenAI、AWS Bedrock、Google Vertex AI など、すべての LLM で機能します。
LLMダッシュボード
OpenAI、Azure OpenAI、Google VertexAI、AWS Bedrock の LLM Observability 統合を通じて、LLM のパフォーマンスを確認することもできます。
これらは、Elastic に統合を追加することで簡単に有効にできます。
OTelとLLM Obsの詳細については、 Elastic Observability Labsをご覧ください。