LG CNS implementa capacidades híbridas, vetoriais e de IA generativa com Elasticsearch para melhorar a precisão e acelerar a recuperação de dados

A LG CNS é a principal empresa de serviços de TI da Coreia. Fundada como subsidiária do LG Group em 1987, oferece serviços de consultoria, integração de sistemas, integração de redes e terceirização de processos de negócios.

Além de participar de projetos públicos de infraestrutura de TI em larga escala, a LG CNS está entrando ativamente no mercado global graças a parcerias com centros de desenvolvimento e corporações globais.

Com o advento da IA generativa, muitas empresas introduziram tecnologias relacionadas para acompanhar esses avanços. Para atender a essa demanda, a LG CNS está desenvolvendo projetos com IA generativa e oferecendo serviços para essas empresas. Em particular, o algoritmo de busca do seu KeyLook AI é um sistema de retrieval-augmented generation (RAG) que está sendo desenvolvido no centro interno de IA da empresa, o LG CNS D&A Lab.

A meta final é melhorar a função geral de busca do KeyLook para que as aplicações dele possam cobrir todos os campos relacionados à busca. A LG CNS também espera realizar sua visão de inovação no campo de gestão do conhecimento (KM) por meio de algoritmo de busca. Para isso, vários obstáculos tiveram que ser superados primeiro.

Durante a implantação do sistema Retrieval-Augmented Generation (RAG), a LG CNS precisou resolver o problema do algoritmo de busca, que não entendia a intenção do usuário. Isso exigiu uma mudança de algoritmos de busca baseados em palavras-chave para um método de busca vetorial baseado em contexto. Para melhorar as capacidades de busca em bancos de dados para armazenar e realizar as busca, o centro de pesquisa focou o desenvolvimento de um modelo para aumentar a precisão da busca e considerou a introdução de soluções externas.

"Se um usuário buscasse o termo 'blockchain' em coreano, não acharia resultados para o termo da busca em inglês. Isso podia ser resolvido manualmente, mas exigia muito mais horas de trabalho do que o esperado", conta Youngmin Kim, consultor geral de idiomas do LG CNS AI Lab.

A LG CNS adotou o Elasticsearch para melhorar a precisão e a velocidade de seu modelo de busca por IA. Depois de avaliar várias soluções em mecanismo de busca para busca vetorial, o Elasticsearch provou ser o mais eficiente em termos de recursos de computação e ofereceu o melhor desempenho para o algoritmo KNN, acelerando significativamente a busca vetorial. Mais importante ainda, o Elasticsearch aceitava os módulos vetoriais esparsos que o LG CNS exigia.

"Descobrimos que apenas o Elasticsearch aceitava nossos casos de uso de busca semântica. A busca por vetores esparsos desenvolvida durante nossa pesquisa apresentou um desempenho muito bom, e queríamos um mecanismo de busca que pudesse ser equipado com ela", lembra Kim. "O módulo de vetores esparsos do Elasticsearch nos permite realizar buscas mesmo quando as palavras-chave não são correspondências exatas e quando incluem palavras com significados semelhantes ou contêm erros de digitação. Os resultados da adoção do Elasticsearch com a ajuda dos nossos parceiros foram notáveis."

"Testamos o modelo KeyLook AI no conjunto de dados KorQuAD 2 e combinamos três módulos, incluindo a busca de texto completo, busca vetorial e busca semântica do Elasticsearch. Como resultado, nossa precisão nas buscas aumentou 20%, de 75% para 95%", comemora Kim. "A busca vetorial esparsa nos permite encontrar documentos contendo sinônimos do termo de busca, enquanto a busca vetorial densa foca reconhecer frases coloquiais e entender a intenção. Ao combinar esses módulos com busca híbrida, melhoramos muito o desempenho."

As melhorias na busca vão além do aumento da precisão. Para processar grandes quantidades de dados, você precisa ser capaz de recuperar rapidamente as informações que quer buscar. Inicialmente, a LG CNS usava dados na memória e apresentava lentidão no processamento de busca e limitações na expansão da memória.

Considerando que o Elasticsearch pode processar grandes volumes de dados em larga escala, a LG CNS incorporou a plataforma no local para melhorar a velocidade do algoritmo de busca do KeyLook AI.

"Nós nos beneficiamos da plataforma Elasticsearch em termos de gerenciamento de memória", revela Kim. "Quanto mais dados temos, mais rápido o Elasticsearch pode processá-los." Com a otimização e o suporte híbrido do Elasticsearch, o tempo necessário para buscar 110 mil perguntas e 10 mil documentos em documentos web coreanos foi reduzido em mais da metade, de 0,2 para 0,1 segundo.

Adotar o Elasticsearch também trouxe benefícios para os funcionários da LG CNS.

O algoritmo do KeyLook AI utiliza modelos de IA generativa para codificar dados corporativos e indexá-los dentro do Elasticsearch. Quando um usuário digita uma pergunta em um site de busca, o KeyLook AI identifica documentos relacionados e entrega respostas ao ChatGPT. O ChatGPT então entrega resultados de busca aos usuários compilando respostas claras e fáceis de entender.

Graças aos fortes recursos de segurança e indexação do Elasticsearch, a LG CNS implantou uma função de bisca atualizada e agora a está testando no setor de gerenciamento de conhecimento.

Os administradores usam esses recursos de segurança para filtrar informações com base nos direitos de acesso por nível e trazer os resultados das buscas, melhorando o desempenho geral da busca de conhecimento corporativo.

Diferente dos métodos tradicionais de busca de texto completo, que são prejudicados pelas informações irrelevantes, o Elasticsearch oferece buscas rápidas graças ao método de índice invertido, no qual o buscador encontra rapidamente documentos contendo as informações desejadas.

"Conseguimos evoluir nosso modelo de negócios de serviços de gestão do conhecimento codificando documentos corporativos usando modelos de IA e a abordagem única de indexação reversa do Elasticsearch, que permite aos usuários encontrar rapidamente as informações que procuram", explica Kim.

Enquanto inovava com o Elasticsearch, a equipe CNS da LG priorizou a satisfação e a conveniência do usuário.

Relembrando a jornada para melhorar o desempenho do algoritmo de busca do KeyLook AI, Kim expressa confiança na versatilidade e no suporte do Elasticsearch. "Ficamos muito satisfeitos com o Elasticsearch", ele diz. "Vimos uma boa sinergia entre os diversos recursos que o Elasticsearch oferece nas consultas e o modelo de busca de IA no qual a LG CNS se concentrou." As capacidades de agregação do Elastic nos permitem processar e analisar dados em tempo real, acessando rapidamente as informações mais recentes, como os dez principais termos de busca e consultas semelhantes às perguntas dos usuários. Isso viabiliza nosso processo de tomada de decisão e nos permite responder rapidamente.

"Estamos formas maneiras de aumentar a velocidade e a precisão do KeyLook AI, aproveitando mais recursos cobertos pelo Elasticsearch", continua Kim. "Além disso, a LG CNS está expandindo os negócios em serviços de gerenciamento de conhecimento de última geração, que transformam informações dispersas em ativos valiosos."

De acordo com o roteiro de aquisição de tecnologia da empresa, a LG CNS planeja fornecer suporte técnico multilíngue além do coreano com o recurso KeyLook AI e pretende expandir o mercado global para esses serviços de IA.

• Novo no Elasticsearch? Assista ao vídeo "Começando no Elasticsearch"
• Baixe nosso whitepaper, "Busca semântica: levando experiências de busca para a era da IA"
• Avalia gratuitamente o Elasticsearch e veja por que tantas empresas confiam na Elastic.
• Saiba mais sobre outros clientes e as experiências deles com o Elasticsearch