现在,聊天机器人应用程序已经运行,您还可以使用Elastic Observability监控应用程序。Elastic 是 100% OpenTelemetry 本机,无需数据转换即可摄取和保留 OTel 数据。
我们已经用 OpenTelemetry(使用EDOT)配置了聊天机器人应用程序。

如何获取痕迹?
在 .env 中配置OTEL_SDK_DISABLED=false 文件,应用程序将向本地弹性部署发送日志、指标和跟踪。
详情请参阅聊天机器人应用程序 README OpenTelemetry 部分。
跟踪功能适用于所有 LLM--OpenAI、Azure OpenAI、AWS Bedrock 和 Google Vertex AI。
法律硕士仪表板
您还可以通过针对 OpenAI、Azure OpenAI、Google VertexAI 和 AWS Bedrock 的 LLM Observability 集成,了解 LLM 的性能如何。
只需在 Elastic 上添加集成,即可轻松开启这些功能。
阅读更多关于 Elastic Observability Labs 的 OTel 和 LLM Obs 。