이제 챗봇 앱이 실행 중이므로 Elastic Observability를 사용하여 애플리케이션을 모니터링할 수도 있습니다. Elastic은 100% 데이터 번역이 필요 없이 OTel 데이터를 수집하고 유지함으로써 OpenTelemetry 네이티브입니다.
이미 OpenTelemetry를 사용하여 챗봇 앱을 구성했습니다( EDOT 사용).
추적은 어떻게 하나요?
.env에서 OTEL_SDK_DISABLED=false 구성 파일에 저장하면 앱이 로그, 메트릭 및 추적을 로컬 Elastic 배포로 전송합니다.
자세한 내용은 챗봇 앱 README 오픈텔레메트리 섹션을 참조하세요.
추적은 OpenAI, Azure OpenAI, AWS Bedrock, Google Vertex AI 등 모든 LLM에서 작동합니다.
LLM 대시보드
또한 OpenAI, Azure OpenAI, Google VertexAI 및 AWS Bedrock에 대한 LLM Observability 통합을 통해 LLM의 성능을 확인할 수 있습니다.
이러한 기능은 Elastic에서 통합을 추가하여 쉽게 켤 수 있습니다.
엘라스틱 옵저버빌리티 랩에서 OTel과 LLM Obs에 대해 자세히 알아보세요.