借助 LLM 可观测性全面监测您的 AI 技术栈

借助 Elastic Observability 的端到端监测能力，检测风险、解决问题，并确保您的智能体 AI 和生成式 AI 应用保持生产就绪状态。

开始免费试用
阅读文档
LLM Observability 监测界面，显示 Vector、Azure OpenAI、OpenAI、Anthropic 和 Amazon Bedrock 的徽标

核心能力

全面观测您的智能体 AI 技术栈的每一层

监测性能、控制成本、跟踪安全护栏状态，并确保 GenAI 工作负载稳定可靠地运行。

  • 专为主流 LLM 平台打造的精选仪表板

    预构建的仪表板用于 Amazon Bedrock、Azure AI Foundry、Gemini Enterprise Agent Platform、OpenAI 和 Anthropic (Claude)，跟踪调用次数、错误率、延迟、利用率指标和词元使用情况，使 SRE 能够发现性能瓶颈、微调资源并保持系统可靠。

  • LLM 分步链路追踪

    清晰掌握完整的 LLM 执行路径。追踪 LangChain 请求、失败的 LLM 调用、智能体工作流以及外部服务交互，包括提示词内容、调用的工具和返回的响应。梳理依赖关系，以便快速定位瓶颈并恢复最佳性能。

  • 面向安全与合规的 AI 护栏监测

    监测提示和响应以查找敏感数据泄露、有害内容、道德问题、错误和幻觉；使用 Elastic AI Agent 检测提示注入攻击；并使用内置防护措施支持来跟踪策略和 LLM 响应评估。

  • 可预测的 AI 成本追踪

    按模型、查询和 Token 消耗量细分使用情况。在文本、图像和视频模型中及时发现成本异常，例如高成本提示词和低效 API 调用，从而让支出保持可预测并持续优化。

从各类开发库到主流模型，我们为您提供全方位支持

Elastic 可为 AI 应用提供端到端可见性，集成常用链路追踪库，并带来针对所有主流 LLM 提供商模型的开箱即用深度洞察，涵盖 GPT-4o、Mistral、LLaMA、Anthropic、Cohere 和 DALL·E。

仪表板库

面向您的 AI 应用的集成与功能

全面跟踪每个模型的性能、安全性和支出。

Elastic Observability 的 Amazon Bedrock 集成可让您全方位洞察 Amazon Bedrock LLM 的性能、使用情况和安全性，包括 Anthropic、Mistral 和 Cohere 等模型。

面向 AI 应用和智能体工作流的端到端链路追踪与调试

使用 Elastic APM 结合 OpenTelemetry 分析和调试 AI 应用。该功能由适用于 Python、Java 和 Node.js 的 Elastic Distributions of OpenTelemetry (EDOT) 提供支持，并兼容 LangTrace、OpenLIT 和 OpenLLMetry 等第三方链路追踪库。

欢迎亲自试用 Elastic 聊天机器人 RAG 应用！

该示例应用结合了 Elasticsearch、LangChain 和多种 LLM，通过 ELSER 与您的私有数据驱动聊天机器人。

引领可观测的未来

了解 Elastic 为何在 2025 年度《Gartner® 可观测性平台 Magic Quadrant™》中获评“领导者”。

获取报告