Observability를 위한 Elastic AI Assistant를 사용한 상황 인식 인사이트

By

Bahubali Shetti

AIOps_blog-720x420.png

Elastic®은 Elasticsearch Relevance Engine™(ESRE)으로 구동되는 개방적인 생성형 AI 어시스턴트인 Elastic AI Assistant를 확장하여 Observability 분석을 강화하고 모든 기술 수준의 사용자를 지원합니다. Elastic의 AI Assistant(Observability를 위한 AI Assistant는 기술 미리보기 버전)는 문제 식별 및 해결 방법을 혁신하고 SRE에 대한 상황 인식 정보를 제공하는 대화형 어시스턴트를 통해 사일로 전반에 걸친 수동 데이터 추적을 제거합니다.

Elastic AI Assistant는 애플리케이션 오류, 로그 메시지 해석, 경보 분석, 최적의 코드 효율성 제안에 대한 이해를 높여줍니다. 또한 Elastic AI Assistant의 대화형 채팅 인터페이스를 통해 SRE는 모든 관련 원격 측정을 한 곳에서 일관되게 채팅하고 시각화하는 동시에 추가 컨텍스트를 위해 독점 데이터와 런북을 활용할 수도 있습니다.

AI Assistant는 OpenAI 또는 Azure OpenAI와 같이 선택한 LLM에 연결하도록 구성되어 있지만 Elastic에서는 사용자가 AI Assistant에 개인 정보를 제공할 수도 있습니다. 개인 정보에는 런북, 과거 사건 기록, 사례 기록 등과 같은 항목이 포함될 수 있습니다. Elastic Learned Sparse EncodeR(ELSER)로 구동되는 유추 프로세서를 사용하여 Assistant는 특정 질문에 답변하거나 작업을 수행하기 위해 가장 정확도가 높은 데이터에 액세스합니다.

AI Assistant는 계속 사용하여 지식 기반 시스템을 학습하고 확장할 수 있습니다. SRE는 어시스턴트에게 특정 문제에 대해 가르칠 수 있으므로 어시스턴트는 향후 시나리오에 대한 지원을 제공하고 가동 중단 보고서 작성, 런북 업데이트 및 자동화된 근본 원인 분석 강화를 지원할 수 있습니다. SRE는 사일로 전체에서 수동 데이터 검색을 제거하고 효과적으로 AIOps를 강화함으로써 Elastic AI Assistant와 머신 러닝 기능의 결합된 성능을 통해 문제를 더 빠르고 사전에 찾아내고 해결할 수 있습니다.

이 블로그에서는 8.10의 기술 미리보기에서 사용할 수 있는 몇 가지 초기 기능에 대한 리뷰를 제공합니다.

  • Elastic의 모든 화면에서 채팅 기능 이용 가능
  • 다음에 대한 더 많은 컨텍스트 정보를 얻기 위해 미리 작성된 특정 LLM 쿼리:
    • 로그의 메시지 의미 이해
    • Elastic APM이 관리하고 있는 서비스의 오류를 관리하는 데 있어 더 나은 옵션
    • 더 많은 컨텍스트 및 로그 경보에 대해 이를 관리하는 방법 식별
    • Universal Profiling에서 코드를 최적화하는 방법 이해
    • Elastic에서 모니터링되는 호스트의 특정 프로세스가 무엇인지 이해

또한 이 특정 시나리오의 기능을 검토한 다음 동영상을 확인하실 수 있습니다.


Video thumbnail

Observability를 위한 Elastic AI Assistant

SRE는 로그 항목 수가 임계값을 초과한 것과 관련된 경보를 받습니다. Elastic Observability에서는 경보를 받을 뿐만 아니라 Elastic Observability가 관련 로그 급증 분석을 실시간으로 추가하여 문제를 더 잘 이해하는 데 도움을 드립니다.

로그 임계값 위반

AI Assistant를 사용하여 문제 분석

그러나 SRE가 자신이 담당하는 모든 시스템을 심층적으로 이해하는 것은 아니며 로그 급증 분석을 분석하는 데 더 많은 도움이 필요합니다. AI Assistant가 도움을 드릴 수 있는 부분이 바로 이런 지점입니다.

Elastic은 구성된 LLM으로 전송되는 프롬프트를 사전 구축하며, 문제에 대한 설명과 맥락뿐만 아니라 진행 방법에 대한 몇 가지 권장 사항도 제공합니다.

또한 AI Assistant와 채팅을 시작하고 조사에 더 깊이 들어가실 수 있습니다.

Video thumbnail

위 영상에서 본 것처럼 “pgbench” 문제에 대한 추가 정보를 얻을 수 있을 뿐만 아니라 내부 조직 정보를 얻어 이것이 비즈니스에 어떤 영향을 미치는지 조사할 수도 있습니다. 이 경우, 우리는 다음을 이해했습니다.

  • 거래 처리량 비율의 큰 변화가 수익에 미치는 영향
  • 로그 급증이 발생했을 때 수익이 어떻게 감소했는지

이러한 정보 구성 요소는 모두 LLM이 교육을 받지 않은 특정 질문에 답하기 위해 조직(개인) 데이터를 검색하는 데 도움이 되는 ELSER를 사용하여 얻은 것입니다.

AI Assistant 채팅 인터페이스

그렇다면 새로운 AI Assistant 채팅 인터페이스로 무엇을 얻을 수 있을까요? 채팅 기능을 사용하면 Elastic AI Assistant와의 세션/대화를 통해 다음을 수행할 수 있습니다.

  • 문제 파악 및 근본 원인 분석 프로세스의 일환으로 “오늘 이 서비스와 관련된 경보가 있어?” 또는 “이 경보가 무엇인지 설명해 줄 수 있어?”와 같은 자연어 인터페이스 사용
  • 결론과 컨텍스트를 제공하고, 내부 개인 데이터(ELSER에서 제공)와 연결된 LLM에서 이용 가능한 정보를 바탕으로 다음 단계와 권장 사항 제안
  • Elastic AI Assistant가 수행한 분석 결과와 쿼리 응답 분석
  • 대화 전반에 걸쳐 정보를 기억하고 요약
  • 대화를 통해 Lens 시각화 생성
  • 채팅 인터페이스를 통해 사용자를 위해 Kibana® 및 Elasticsearch® API 실행
  • get_apm_timeseries, get_apm_service_summary, get_apm_error_docuements, get_apm_correlations, get_apm_downstream_dependencies 등의 특정 APM 함수를 사용하여 근본 원인 분석 수행

AI Assistant에 액세스할 수 있는 다른 위치

Observability를 위한 Elastic AI Assistant의 채팅 기능은 처음에는 Elastic Observability 8.10의 여러 위치에서 액세스할 수 있으며 향후 릴리즈에는 추가적인 액세스 포인트가 추가될 예정입니다.

  • 모든 Observability 애플리케이션에는 상단 작업 메뉴에 AI Assistant를 열고 대화를 시작할 수 있는 버튼이 있습니다.
Video thumbnail
  • 사용자는 AI Assistant에서 대화로 이동 링크를 클릭하여 기존 대화에 액세스하고 새 대화를 만들 수 있습니다.

Observability를 위한 Elastic AI Assistant의 새로운 채팅 기능은 APM, 로깅, 호스트, 경보 및 프로파일링에서 Elastic AI Assistant를 통해 이미 인사이트가 제공되고 있는 것과 관련된 대화를 시작하는 기능을 제공하여 Elastic Observability 8.9에 도입된 기능을 향상합니다.

예를 들면, 다음과 같습니다.

  • APM에서는 특정 오류나 예외의 의미를 설명하고 일반적인 원인과 가능한 영향을 제공합니다. 또한 대화를 통해 더 자세히 조사할 수도 있습니다.
Video thumbnail
  • 로깅 시, AI Assistant는 로그를 가져와 컨텍스트 정보로 메시지를 이해하도록 돕고, 대화를 통해 추가 조사를 할 수도 있습니다.
Video thumbnail

AI Assistant 구성

Elastic AI Assistant 구성 방법에 대한 자세한 내용은 Elastic 설명서에서 확인할 수 있습니다.

Connector 기반이며 처음에는 OpenAI 및 Azure OpenAI에 대한 구성을 지원합니다. GPT-4 사용이 권장되며 함수 호출 지원이 필수 요건입니다. OpenAI를 직접 사용하는 경우 이러한 기능이 자동으로 제공됩니다. Azure 버전을 사용하는 경우, Azure 설명서에 따라 최신 모델 중 하나를 배포해야 합니다.

커넥터

또한 yaml을 사전 구성된 커넥터로 사용하여 구성할 수 있습니다. :

xpack.actions.preconfigured:
  open-ai:
    actionTypeId: .gen-ai
    name: OpenAI
    config:
      apiUrl: https://api.openai.com/v1/chat/completions
      apiProvider: OpenAI
    secrets:
      apiKey: <myApiKey>
  azure-open-ai:
    actionTypeId: .gen-ai
    name: Azure OpenAI
    config:
      apiUrl: https://<resourceName>.openai.azure.com/openai/deployments/<deploymentName>/chat/completions?api-version=<apiVersion>
      apiProvider: Azure OpenAI
    secrets:
      apiKey: <myApiKey>

이 기능은 Enterprise 라이선스가 있는 사용자에게만 제공됩니다. Observability를 위한 Elastic AI Assistant는 기술 미리보기 상태이며 엔터프라이즈 기능으로 라이선스가 부여됩니다. Elastic Enterprise 사용자가 아닌 경우, Observability를 위한 Elastic AI Assistant에 액세스하려면 업그레이드하세요.

Elastic은 여러분의 의견을 중요하게 생각합니다! Elastic AI Assistant에서 제공되는 피드백 양식, 토론 포럼(AI Assistant 또는 AI 작업으로 태그됨) 및/또는 Elastic 커뮤니티 Slack(#observability-ai-assistant)을 이용해 주세요.

마지막으로, 이 기능은 아직 기술 미리보기 상태라는 점을 알려드리고 싶었습니다. 대규모 언어 모델의 특성상 어시스턴트가 때때로 예상치 못한 작업을 수행할 수 있습니다. 상황이 동일하더라도 동일하게 반응하지 않을 수 있습니다. 여러분이 물어보신 질문에 답변할 수 있어야 하는데 때때로 도움을 드릴 수 없다는 메시지를 표시하기도 합니다.

Elastic은 오류에 대비하여 어시스턴트를 더욱 강력하고 예측 가능하며 전반적으로 개선되도록 하기 위해 노력하고 있으므로 꼭 향후 릴리즈를 이용해 주시기 바랍니다.

사용해 보기

Elastic AI Assistant 페이지 또는 릴리즈 노트에서 이러한 기능과 자세한 내용에 대해 읽어보세요.

기존 Elastic Cloud 고객은 Elastic Cloud 콘솔에서 이 중 많은 기능을 바로 이용하실 수 있습니다. 클라우드에서 Elastic을 활용하고 있지 않으신가요? 무료 체험판을 시작하세요.

이 포스팅에 설명된 기능의 릴리즈 및 시기는 Elastic의 단독 재량에 따릅니다. 현재 이용할 수 없는 기능은 정시에 또는 전혀 제공되지 않을 수도 있습니다.

이 블로그 포스팅에서, Elastic은 각 소유자가 소유하고 운영하는 서드파티 생성형 AI 도구를 사용했거나 참조했을 수 있습니다. Elastic은 서드파티 도구에 대한 어떠한 통제권도 없으며 당사는 그 내용, 작동 또는 사용에 대한 책임이나 법적 의무가 없고 이러한 도구의 사용으로 인해 발생할 수 있는 손실 또는 손상에 대해 책임을 지지 않습니다. 개인 정보, 민감한 정보 또는 기밀 정보와 함께 AI 도구를 사용할 때 주의하세요. 제출하신 모든 데이터는 AI 교육을 위해 또는 다른 목적으로 사용될 수 있습니다. 제공하시는 정보가 안전하게 유지되거나 기밀로 유지된다는 보장은 없습니다. 사용 전에 생성형 AI 도구의 개인 정보 보호 관행 및 사용 약관을 숙지하셔야 합니다.

Elastic, Elasticsearch, ESRE, Elasticsearch Relevance Engine 및 관련 마크는 미국 및 기타 국가에서 Elasticsearch N.V.의 상표, 로고 또는 등록 상표입니다. 기타 모든 회사 및 제품 이름은 해당 소유자의 상표, 로고 또는 등록 상표입니다.

Elastic Cloud 무료 체험판 등록하기

선택하신 클라우드 서비스 제공자에서 완전히 로드된 배포를 이용하세요. Elasticsearch 개발사로서 클라우드에 있는 사용자의 Elastic 클러스터에 기능과 지원을 제공해드립니다.

무료 체험판 사용 시작