Insights com reconhecimento de contexto usando o Elastic AI Assistant for Observability

Por

Bahubali Shetti

AIOps_blog-720x420.png

A Elastic® está ampliando o Elastic AI Assistant, o assistente de IA generativa aberto com a tecnologia do Elasticsearch Relevance Engine™ (ESRE), para aprimorar a análise de observabilidade e capacitar usuários de todos os níveis de habilidade. O Elastic AI Assistant (em prévia técnica para o Observability) transforma a identificação e a resolução de problemas e elimina a busca manual de dados isolados com um assistente interativo que fornece informações com reconhecimento de contexto para SREs.

O Elastic AI Assistant aprimora a compreensão de erros de aplicações, a interpretação de mensagens de log, a análise de alertas e sugestões para otimizar a eficiência do código. Além disso, a interface de chat interativo do Elastic AI Assistant possibilita que os SREs conversem e visualizem toda a telemetria relevante de forma coesa em um só lugar, ao mesmo tempo em que utilizam dados proprietários e runbooks para contexto adicional.

Embora o AI Assistant esteja configurado para se conectar ao LLM de sua escolha, como OpenAI ou Azure OpenAI, a Elastic também permite que os usuários forneçam informações privadas ao AI Assistant. As informações privadas podem incluir itens como runbooks, histórico de incidentes passados, histórico de casos e muito mais. Usando um processador de inferência com a tecnologia do Elastic Learned Sparse EncodeR (ELSER), o Assistant obtém acesso aos dados mais relevantes para responder a perguntas específicas ou executar tarefas.

O AI Assistant pode aprender e aumentar sua base de conhecimento com o uso contínuo. Os SREs podem ensinar o assistente sobre um problema específico para que o assistente possa fornecer suporte para o cenário no futuro e ajudar na composição de relatórios de interrupções, na atualização de runbooks e no aprimoramento da análise automatizada de causa raiz. Os SREs podem identificar e resolver problemas de forma mais rápida e proativa por meio do poder combinado do Elastic AI Assistant e dos recursos de machine learning, eliminando a recuperação manual de dados isolados e turbinando efetivamente o AIOps.

Neste post do blog, apresentaremos uma análise de alguns dos recursos iniciais disponíveis na prévia técnica na versão 8.10:

  • Recurso de chat disponível em qualquer tela no Elastic.
  • Consultas de LLM pré-criadas específicas para obter mais informações contextuais e:
    • Entender o significado da mensagem em um log
    • Ter melhores opções no gerenciamento de erros dos serviços que o Elastic APM gerencia
    • Identificar mais contexto e como gerenciá-lo para alertas de log
    • Entender como otimizar o código no Universal Profiling
    • Entender quais processos específicos estão nos hosts monitorados no Elastic

Além disso, você pode conferir o vídeo a seguir, que é uma análise dos nossos recursos nesse cenário específico.


Video thumbnail

Elastic AI Assistant for Observability

Como um SRE, você recebe um alerta relacionado a um limite que está sendo ultrapassado para o número de entradas de log. No Elastic Observability, além de você receber o alerta, ele adiciona análises relevantes de picos de log em tempo real para ajudar você a entender melhor o problema.

limite de log violado

Usando o AI Assistant para analisar um problema

No entanto, como SRE, você não necessariamente entende a fundo todos os sistemas pelos quais é responsável e precisa de mais ajuda para a análise de pico de log. É aqui que o AI Assistant pode ajudar.

A Elastic pré-cria um prompt que é enviado ao seu LLM configurado, e você recebe não apenas a descrição e o contexto do problema, mas também algumas recomendações sobre como proceder.

Além disso, você pode iniciar um chat com o AI Assistant e aprofundar sua investigação.

Video thumbnail

Como você viu no clipe acima, além de ter acesso a mais informações sobre o problema “pgbench”, você também pode investigar como isso afeta seus negócios obtendo informações organizacionais internas. Neste caso, entendemos:

  • Como a mudança significativa na taxa de transferência das transações pode afetar nossa receita
  • Como a receita caiu quando ocorreu esse pico de log

Ambos os componentes de informação foram obtidos por meio do uso do ELSER, que ajuda a recuperar dados organizacionais (privados) para responder a perguntas específicas, nas quais os LLMs nunca serão treinados.

Interface de chat do AI Assistant

Então, o que você pode conseguir com a nova interface de chat do AI Assistant? O recurso de chat permite que você tenha uma sessão/conversa com o Elastic AI Assistant na qual é possível:

  • Usar uma interface de linguagem natural, como “Há algum alerta relacionado a esse serviço hoje?” ou “Você pode explicar o que são esses alertas?” como parte dos processos de determinação de problemas e análise de causa raiz
  • Oferecer conclusões e contexto, além de sugerir próximas etapas e recomendações com base em seus próprios dados privados internos (com a tecnologia do ELSER), bem como nas informações disponíveis no LLM conectado
  • Analisar respostas de consultas e resultados de análises realizadas pelo Elastic AI Assistant
  • Lembrar e resumir informações durante a conversa
  • Gerar visualizações do Lens por meio de conversas
  • Executar as APIs do Kibana® e do Elasticsearch® em nome do usuário por meio da interface de chat
  • Realizar análises de causa raiz usando funções específicas do APM, como: get_apm_timeseries, get_apm_service_summary, get_apm_error_documents, get_apm_correlations, get_apm_downstream_dependencies etc.

Outros locais para acessar o AI Assistant

O recurso de chat no Elastic AI Assistant for Observability estará inicialmente acessível em vários locais no Elastic Observability 8.10, e outros pontos de acesso serão adicionados a versões futuras.

  • Todas as aplicações do Observability têm um botão no menu de ação superior para abrir o AI Assistant e iniciar uma conversa:
Video thumbnail
  • Os usuários podem acessar conversas existentes e criar novas clicando no link Go to conversations (Ir para conversas) no AI Assistant.

O novo recurso de chat no Elastic AI Assistant for Observability aprimora os recursos introduzidos no Elastic Observability 8.9, fornecendo a capacidade de iniciar uma conversa relacionada aos insights que já estão sendo fornecidos pelo Elastic AI Assistant no APM, em logging, hosts, alertas e na criação de perfil.

Por exemplo:

  • No APM, ele explica o significado de um erro ou exceção específico e oferece causas comuns e possíveis impactos. Além disso, você pode investigar mais detalhadamente com uma conversa.
Video thumbnail
  • Em logging, o AI Assistant pega o log e ajuda você a entender a mensagem com informações contextuais. Além disso, você pode investigar mais detalhadamente com uma conversa.
Video thumbnail

Configurando o AI Assistant

Detalhes sobre como configurar o Elastic AI Assistant podem ser encontrados na documentação da Elastic.

Ele é baseado no Connector e inicialmente oferecerá suporte a configuração para OpenAI e Azure OpenAI. Observe que o uso do GPT-4 é recomendado, e o suporte para chamadas de funções é um requisito. Se estiver usando o OpenAI diretamente, você terá esses recursos automaticamente. Se estiver usando a versão do Azure, implante um dos modelos mais recentes de acordo com a documentação do Azure.

conectores

Além disso, ele pode ser configurado usando yaml como um conector pré-configurado :

xpack.actions.preconfigured:
  open-ai:
    actionTypeId: .gen-ai
    name: OpenAI
    config:
      apiUrl: https://api.openai.com/v1/chat/completions
      apiProvider: OpenAI
    secrets:
      apiKey: <myApiKey>
  azure-open-ai:
    actionTypeId: .gen-ai
    name: Azure OpenAI
    config:
      apiUrl: https://<resourceName>.openai.azure.com/openai/deployments/<deploymentName>/chat/completions?api-version=<apiVersion>
      apiProvider: Azure OpenAI
    secrets:
      apiKey: <myApiKey>

O recurso está disponível apenas para usuários com licença Enterprise. O Elastic AI Assistant for Observability está em prévia técnica e é licenciado como um recurso do Enterprise. Se você não é usuário do Elastic Enterprise, faça o upgrade para ter acesso ao Elastic AI Assistant for Observability.

Seu feedback é importante para nós! Use o formulário de feedback disponível no Elastic AI Assistant, fóruns do Discuss (marcados com AI Assistant ou AI operations) e/ou a comunidade Elastic no Slack (#observability-ai-assistant).

Por fim, gostaríamos de salientar que esse recurso ainda está em prévia técnica. Devido à natureza dos grandes modelos de linguagem, o assistente às vezes pode fazer coisas inesperadas. Ele pode não reagir da mesma forma, mesmo que a situação seja a mesma. Às vezes, ele também diz que não consegue ajudar, embora devesse ser capaz de responder à pergunta que você fez.

Estamos trabalhando para tornar o assistente mais robusto contra falhas, mais previsível e melhor de maneira geral. Portanto, não deixe de acompanhar as versões futuras.

Experimente

Leia sobre esses recursos e muito mais na nossa página do Elastic AI Assistant ou nas notas de lançamento .

Quem já trabalha com o Elastic Cloud pode acessar muitos desses recursos diretamente no console Elastic Cloud. Não está usando o Elastic na nuvem? Inicie uma avaliação gratuita.

O lançamento e o tempo de amadurecimento de todos os recursos ou funcionalidades descritos neste post permanecem a exclusivo critério da Elastic. Os recursos ou funcionalidades não disponíveis atualmente poderão não ser entregues dentro do prazo previsto ou nem chegar a ser entregues.

Neste post do blog, podemos ter usado ou nos referido a ferramentas de IA generativa de terceiros, que pertencem a seus respectivos proprietários e são operadas por eles. A Elastic não tem nenhum controle sobre as ferramentas de terceiros e não temos nenhuma responsabilidade por seu conteúdo, operação ou uso nem por qualquer perda ou dano que possa surgir do uso de tais ferramentas. Tenha cuidado ao usar ferramentas de IA com informações pessoais, sensíveis ou confidenciais. Os dados que você enviar poderão ser usados para treinamento de IA ou outros fins. Não há garantia de que as informações fornecidas serão mantidas em segurança ou em confidencialidade. Você deve se familiarizar com as práticas de privacidade e os termos de uso de qualquer ferramenta de IA generativa antes de usá-la. 

Elastic, Elasticsearch, ESRE, Elasticsearch Relevance Engine e marcas associadas são marcas comerciais, logotipos ou marcas registradas da Elasticsearch N.V. nos Estados Unidos e em outros países. Todos os outros nomes de empresas e produtos são marcas comerciais, logotipos ou marcas registradas de seus respectivos proprietários.

Inscreva-se para fazer uma avaliação gratuita do Elastic Cloud

Inicie uma implantação totalmente carregada no provedor de serviços em nuvem de sua escolha. Somos a empresa por trás do Elasticsearch e oferecemos nossos recursos e suporte aos seus clusters da Elastic na nuvem.

Iniciar avaliação gratuita