EY wendet die Suchfunktionen von Elastic an, um Erfahrungen generativer KI im Finanzwesen ganz neu zu entwickeln

Für Finanzinstitute ist der schnelle Zugang zu vertrauenswürdigen Informationen wichtiger denn je, insbesondere angesichts des gestiegenen Drucks, sich ständig weiterentwickelnde Vorschriften wie Kapitaladäquanz und ESG-Standards (Environmental, Social and Corporate Governance) einzuhalten. Aus diesem Grund erforschen viele Banken und ihre Partner das Potenzial generativer KI, um Wert aus riesigen Mengen unstrukturierter Daten, einschließlich PDFs und anderen Dokumenten, zu schöpfen.

Ernst & Young (EY), eines der größten Netzwerke für professionelle Dienstleistungen weltweit und ein führender Anbieter modernster Lösungen für den Finanzsektor, arbeitet intensiv daran, Banken beim Angehen dieser Herausforderungen zu unterstützen. Vishaal Venkatesh, GenAI Manager bei EY, sagt: „Unser Hauptaugenmerk liegt darauf, verantwortungsvolle KI zu fördern und diese Lösungen effektiv für unsere Kunden bereitzustellen. Wir stellen sicher, dass sie die Technologie nicht nur verstehen, sondern auch über das richtige Framework verfügen, um sie erfolgreich zu implementieren.“

Um dieses Ziel zu erreichen, baute EY auf der Elasticsearch-Plattform mit seiner generativen KI-Lösung auf. „Die wegweisende Arbeit von Elastic im Bereich der Such- und Abruftechnologie hat uns überzeugt“, sagt Venkatesh. „Wir haben diese Fähigkeiten in unseren KI-Stack für Retrieval-Augmented Generation (RAG) integriert, der die Genauigkeit verbessert und das Abrufen von Einblicken aus unstrukturierten Daten beschleunigt.“

Im Zentrum der Lösung von EY steht ESRE (Elasticsearch Relevance Engine), eine Tool-Suite, die Machine-Learning-Modelle, Datentransformation und eine Vektordatenbank sowie Datensuche und -abruf kombiniert.

Venkatesh sagt: „Mit ESRE können wir Machine-Learning-Modelle nutzen, um in großem Maßstab gespeicherte Vektor-Embeddings zu generieren. Wir haben das supereffiziente Embedding-Modell verwendet, um die RAG-Komponente auszubauen, was unsere Verarbeitungszeit deutlich verkürzt hat.“ EY nutzte außerdem die erweiterten Indexierungs- und Chunking-Funktionen der Elastic-Produktsuite.

Diese Zusammenarbeit ermöglicht es EY, zwei strategisch wertvolle Bereiche unstrukturierter Daten im Finanzdienstleistungsbereich anzugehen: ESG und Finanzberichte. „Elastic ermöglicht es uns, Banken dabei zu helfen, die Berichterstattung über ihre ESG-Verpflichtungen zu optimieren, einschließlich interner Kennzahlen und Details aus der gesamten Wertschöpfungskette“, sagt er.

Für Finanzberichte kann die KI-Lösung von EY durch die Unterstützung von Elastic Daten und Einblicke aus komplexen Dokumenten mit zahlreichen Tabellen extrahieren. „Stellen Sie sich vor, Sie müssten 14 Schlüsselvariablen aus einem 40-seitigen PDF extrahieren oder Informationen aus mehreren Berichten aus verschiedenen Jahren vergleichen. Hier sparen wir unseren Kunden wertvolle Zeit und Ressourcen“, sagt Venkatesh.

Neben der Bereitstellung modernster Technologie bietet Elastic die nahtlose Integration mit anderen Komponenten im generativen KI-Stack von EY, darunter LamaIndex, ein Datenframework zum Erstellen von LLM-Anwendungen, LangChain und Open-Source-Vektordatenbanken wie LanceDB.

EY konnte nach dem Deployment von Elastic in drei Schlüsselbereichen deutliche Verbesserungen feststellen:

• Ungefähr 10–15 % höhere Genauigkeit bei verschiedenen Dokument- und Extraktionsmethoden
• Das RAG-Setup von Elastic konnte Ergebnisse dreimal schneller liefern als Native-RAG-Ansätze
• Verbesserte Skalierbarkeit, die die Fähigkeit demonstriert, mit vielfältigen Dokumentformaten umzugehen und nahtlos über verschiedene Organisationseinheiten hinweg zu skalieren

Die schnelle Wertschöpfung war ein weiterer entscheidender Vorteil. „Traditionell stellt die Integration von Anbieterlösungen aufgrund langer Anlaufphasen eine erhebliche Herausforderung dar“, sagt Venkatesh. „Die einzigartige Infrastruktur von Elasticsearch hat unseren Entwicklungsprozess jedoch erheblich beschleunigt, sodass wir die Vorteile viel schneller realisieren konnten.“

Venkatesh fügt hinzu, dass die wichtigste Stärke von Elasticsearch in seiner Fähigkeit liegt, umfangreiche Informationen abzurufen und gleichzeitig die Integration verschiedener KI-Technologien während des gesamten Entwicklungslebenszyklus zu ermöglichen. Dieser integrierte Ansatz umfasst auch das Ermöglichen entscheidender Beobachtbarkeits- und Sicherheitsfunktionen und gewährleistet so eine optimale Performance der gesamten maßgeschneiderten KI-Pipeline von EY.

„Durch die Nutzung einer robusten und sicheren Lösung wie Elastic entfällt für uns die Notwendigkeit, erhebliche Ressourcen in den Aufbau und die Wartung dieser kritischen Komponenten von Grund auf zu investieren“, sagt Venkatesh. „Darüber hinaus verringert die Verwendung einer bewährten und vertrauenswürdigen Lösung wie Elastic das Risiko unvorhergesehener Probleme mit selbstentwickelten Komponenten.“

Während des gesamten Projekts konnte EY bei Bedarf auf die Unterstützung der Account Manager und technischen Experten von Elastic zurückgreifen. „Unsere Zusammenarbeit mit Elastic verlief dank der von Anfang an geschaffenen soliden Basis außerordentlich reibungslos. Dank der gemeinsamen Anstrengungen der Lösungsarchitekten und Account Manager von Elastic konnten wir die Komplexität der generativen KI schnell navigieren und ein zeitnahes Prototyping erreichen“, sagt Venkatesh.

Vor allem trägt es dazu bei, dass EY an der Spitze der Revolution durch generative KI bleibt. „Mit den leistungsstarken Such- und Abruffunktionen von Elastic in Kombination mit Machine Learning für Vektoreinbettung sind wir bestens aufgestellt, um unsere Kunden mit verantwortungsvollen generativen KI-Tools auszustatten, die Innovationen vorantreiben, Wertschöpfung ermöglichen und Risiken mindern.“