EY aplica la búsqueda con Elastic a una experiencia pionera de IA generativa para las finanzas

Para las instituciones financieras, el acceso rápido a información fiable es más importante que nunca, especialmente teniendo en cuenta la creciente presión para cumplir con normativas en evolución como la adecuación de capital y los estándares ESG (Medioambiental, Social y de Gobernanza). Por esta razón, muchos bancos y sus socios están explorando el potencial de la IA generativa para liberar valor de grandes cantidades de datos no estructurados, incluidos archivos PDF y otros documentos.

Ernst & Young (EY), una de las mayores redes de servicios profesionales del mundo y un proveedor líder de soluciones de vanguardia para el sector financiero, está trabajando duro para apoyar a los bancos en estos desafíos. Vishaal Venkatesh, gerente de GenAI en EY, afirma: "Nuestro principal objetivo es promover una IA responsable y ofrecer estas soluciones de manera eficaz a nuestros clientes. Nos aseguramos de que no solo entiendan la tecnología, sino que también posean el marco de trabajo adecuado para implementarla con éxito".

Para lograr este objetivo, EY se basó en la plataforma Elasticsearch empleando su solución de IA generativa. "Nos atrajo el trabajo de vanguardia de Elastic en búsqueda y recuperación", dice Venkatesh. "Integramos estas capacidades en nuestra pila de IA para Retrieval-Augmented Generation (RAG), que mejora la precisión y acelera la recuperación de información a partir de datos no estructurados".

El núcleo de la solución de EY es ESRE (Elasticsearch Relevance Engine), un conjunto de herramientas que combina modelos de machine learning, transformación de datos y una base de datos vectorial y búsqueda y recuperación de datos.

Venkatesh dice: "Con ESRE, podemos usar modelos de Machine Learning para generar incrustaciones vectoriales almacenadas a gran escala. Hemos utilizado el modelo de incrustación súper eficiente para construir el componente RAG, lo que redujo significativamente nuestro tiempo de procesamiento". EY también aprovechó la indexación y la segmentación mejoradas disponibles a través de la suite de productos Elastic.

Esta colaboración permite a EY apuntar a dos áreas estratégicamente valiosas de datos no estructurados en servicios financieros: ESG y reportes financieros. "Elastic nos permite ayudar a los bancos a optimizar el reporte sobre sus compromisos ESG, incluidas las métricas internas y los detalles de toda la cadena de valor", dice.

Para los reportes financieros, la solución de IA de EY, impulsada por Elastic, puede extraer datos e información de documentos complejos con numerosas tablas. "Imagina extraer 14 variables clave de un PDF de 40 páginas o comparar información en varios reportes de diferentes años. Aquí es donde les ahorramos a nuestros clientes una cantidad considerable de tiempo y recursos", afirma Venkatesh.

Además de ofrecer tecnología de vanguardia, Elastic ofrece una integración perfecta con otros componentes en la pila generativa de IA de EY, incluidos LamaIndex, un marco de trabajo para crear aplicaciones LLM, LangChain y bases de datos vectoriales open source como LanceDB.

EY observó mejoras significativas en tres áreas clave después de su despliegue de Elastic:

• Aproximadamente 10-15% de ganancia en precisión en varios documentos y métodos de extracción;
• La configuración de RAG de Elastic fue capaz de producir resultados 3 veces más rápido en comparación con los enfoques de RAG nativos;
• La escalabilidad mejorada demostró la capacidad de manejar formatos de documentos diversos y escalar sin problemas entre distintas unidades organizacionales.

La velocidad para obtener valor fue otra ventaja crucial. "Tradicionalmente, integrar soluciones de proveedores supone un desafío importante debido a los largos periodos de puesta en marcha", afirma Venkatesh. "Sin embargo, la infraestructura única de Elasticsearch aceleró significativamente nuestro proceso de desarrollo, lo que nos permitió obtener los beneficios mucho más rápido".

Venkatesh agrega que la principal fortaleza de Elasticsearch reside en su capacidad para realizar recuperación de información a gran escala mientras permite en simultáneo la integración de diversas tecnologías de IA a lo largo de todo el ciclo de vida del desarrollo. Este enfoque integrado se extiende a ofrecer funcionalidades vitales de observabilidad y seguridad, lo que garantiza un rendimiento óptimo en toda la pipeline de IA personalizada de EY.

"Al aprovechar una solución robusta y segura como Elastic, eliminamos la necesidad de invertir recursos significativos en construir y mantener estos componentes críticos desde cero", afirma Venkatesh. "Además, utilizar una solución probada y confiable como Elastic mitiga el riesgo de problemas imprevistos con componentes propios".

A lo largo del proyecto, EY pudo contar con el apoyo de gestores de cuentas y expertos técnicos de Elastic siempre que fue necesario. "Nuestra colaboración con Elastic demostró ser excepcionalmente fluida debido a la sólida base establecida desde el principio. El esfuerzo conjunto de los arquitectos de soluciones de Elastic y los gestores de cuentas garantizó que pudiéramos gestionar rápidamente las complejidades de la IA generativa y lograr prototipos rápidos", dice Venkatesh.

Por encima de todo, ayuda a mantener a EY a la vanguardia de la revolución de la IA generativa. "Con las poderosas funcionalidades de búsqueda y recuperación de Elastic, combinadas con Machine Learning para incrustación vectorial, estamos en una posición ideal para equipar a nuestros clientes con herramientas responsables de IA generativa que fomenten la innovación, desbloqueen valor y mitiguen riesgos".