现在,聊天机器人应用程序已经运行,您还可以使用Elastic Observability监控应用程序。Elastic 是 100% OpenTelemetry 本机,无需数据转换即可摄取和保留 OTel 数据。

我们已经用 OpenTelemetry(使用EDOT)配置了聊天机器人应用程序。

如何获取痕迹?

在 .env 中配置OTEL_SDK_DISABLED=false 文件,应用程序将向本地弹性部署发送日志、指标和跟踪。

详情请参阅聊天机器人应用程序 README OpenTelemetry 部分

跟踪功能适用于所有 LLM--OpenAI、Azure OpenAI、AWS Bedrock 和 Google Vertex AI。

法律硕士仪表板

您还可以通过针对 OpenAI、Azure OpenAI、Google VertexAI 和 AWS Bedrock 的 LLM Observability 集成,了解 LLM 的性能如何。

只需在 Elastic 上添加集成,即可轻松开启这些功能。

阅读更多关于 Elastic Observability Labs OTel LLM Obs

下一个

结论

准备好打造最先进的搜索体验了吗?

足够先进的搜索不是一个人的努力就能实现的。Elasticsearch 由数据科学家、ML 操作员、工程师以及更多和您一样对搜索充满热情的人提供支持。让我们联系起来,共同打造神奇的搜索体验,让您获得想要的结果。

亲自试用