Verantwortungsvolle Transformation: agentische KI für den öffentlichen Sektor

Die Frage lautet: Können KI-Agenten sicher im öffentlichen Sektor eingesetzt werden? Die kurze Antwort lautet: Ja – aber nur, wenn Verantwortung und Governance bewusst in ihre Funktionsweise integriert sind.

Daten sind die Grundlage von KI. Im öffentlichen Sektor sind Daten jedoch äußerst sensibel, und ein Datenleck kann Auswirkungen auf die nationale Sicherheit haben. Das macht die Datensicherheit zum größten Hindernis für die Einführung. Diese Bedenken rufen verständlicherweise Zurückhaltung hervor, doch gleichzeitig wächst die Vorfreude darauf, was KI alles ermöglichen kann.

Bei verantwortungsvollem Einsatz kann agentische KI traditionelle IT-Workflows modernisieren, interne Prozesse optimieren und Organisationen dabei helfen, effizienter zu arbeiten. KI-Agenten arbeiten autonom und benötigen nur minimale menschliche Interaktion.

Im öffentlichen Sektor kann agentische KI die Bürgerdienste verbessern, die Transparenz stärken und dazu beitragen, die Vertrauenslücke zwischen Institutionen und der Öffentlichkeit zu schließen. Gleichzeitig verbessert sie die tägliche Erfahrung der Beamten, die diese Dienste erbringen.

Eine niederländische Verteidigungsorganisation – die DATA-Abteilung des Materiel and IT Command (COMMIT) – bietet ein überzeugendes Beispiel. Sie entwickelte ein internes Air-Gapped-LLM (Large Language Model), das vollständig in einem geschlossenen Netzwerk funktioniert. Durch die Isolierung des Systems vom Internet wurde sichergestellt, dass vertrauliche Informationen sicher blieben. 

Vor KI gibt es kein Entkommen. Generative KI-Tools (GenAI) sind für Privatpersonen weithin zugänglich, und die Mitarbeitenden experimentieren bereits in ihrem Alltag mit ihnen. Daher können sich Organisationen des öffentlichen Sektors nicht einfach davon abwenden.

Uneingeschränkter Zugriff auf öffentliche KI-Tools kann äußerst sensible Bürgerdaten gefährden. Ohne angemessene Aufsicht setzen sich Unternehmen Datenschutzverletzungen, Compliance-Verstößen und Datenlecks aus.

Vollständiger Ausschluss führt oft zu Schatten-KI-Agenten. Mitarbeitende greifen unautorisiert auf nicht genehmigte Tools zurück – was das Risiko von Datenlecks erhöht, diesmal jedoch ohne jegliche Transparenz oder Governance.

Die Lösung besteht darin, eine bewusste, strategische Entscheidung darüber zu treffen, wo sich Ihre Organisation im Spektrum des KI-Zugriffs positionieren sollte, basierend auf ihrem spezifischen Risikoprofil und ihrer Risikotoleranz.

Eine sicherheitsorientiert gestaltete Infrastruktur ist entscheidend:

• Air-Gapped- oder lokal gehostete LLMs, falls erforderlich

• Kontrollierte Deployment-Pipelines

• Klare Governance, die festlegt, wer welche Werkzeuge nutzen darf und wie

Die Nutzung offener Standards stärkt zusätzlich die langfristige Resilienz, verhindert Anbieterbindung und macht Ihre Lösung zukunftssicher.

Denken Sie daran: Zukunftssicherheit ist sowohl technisch als auch organisatorisch. Technologie, die nicht intern verstanden, verwaltet oder verbessert werden kann, erzeugt Abhängigkeit von externen Anbietern.

Der Aufbau eines internen Hubs für KI-Wissen und -expertise stellt sicher, dass Ihre Organisation die Fähigkeit entwickelt, Werkzeuge kritisch zu bewerten, sie verantwortungsvoll einzusetzen und ihre Nutzung kontinuierlich zu optimieren. Durch Investitionen in die Schulung der Nutzer und in internes Fachwissen verringern Sie die Abhängigkeit von externen Anbietern und schaffen langfristige Resilienz.

Die Implementierung von KI-Agenten im öffentlichen Sektor hängt von wichtigen Herausforderungen ab: Datensicherheit, kontrollierter Zugriff auf Informationen und ein missionskritisches Bedürfnis nach Relevanz und Genauigkeit. Hier kommt Retrieval Augmented Generation (RAG) ins Spiel. 

Eine typische Interaktion mit einem GenAI-Modell birgt das Risiko, dass sensible Daten offengelegt werden und kann häufig Halluzinationen hervorrufen, da das Modell auf veraltete Internetdaten zurückgreift. Durch die Trennung Ihres Modells von externen Daten und die Einbindung Ihrer Wissensbasis in den Prozess können Sie kontrollieren, welche Daten das Modell zur Erzeugung von Ausgängen verwendet, den Zugriff konsolidieren und die Nachvollziehbarkeit von KI-Ausgängen ermöglichen.

Mit anderen Worten: RAG stützt die Reaktionen der agentischen KI auf die eigene, verifizierte Wissensdatenbank einer Organisation, sodass Modelle Antworten ausschließlich auf der Grundlage genehmigter interner Daten generieren können. 

Die Implementierung von RAG bringt jedoch eine neue Herausforderung mit sich: Für ein effektives RAG-Deployment ist der Zugriff auf Daten erforderlich, und in den meisten Organisationen des öffentlichen Sektors sind diese Daten stark fragmentiert. Strukturierte Datenbanken, NoSQL-Systeme und riesige Mengen unstrukturierter Dokumente sind im gesamten Ökosystem verstreut. 

Ein Data-Mesh-Ansatz kann helfen, diese verstreuten Datensätze zu verbinden und sie so als einheitliche Wissensschicht für KI-Anwendungen nutzbar zu machen. Das Ergebnis ist eine sichere, intelligente Such- und Assistenzfunktion, die fortschrittliche Anwendungsfälle wie KI-gestützte Suchlösungen oder sogar die Erkennung von Angriffen in einer kontrollierten RAG-Umgebung ermöglicht, ohne die Datensouveränität zu beeinträchtigen.

Der Einsatz agentischer KI in Regierungsbehörden ist möglich, muss jedoch wohlüberlegt und zielgerichtet erfolgen. Um agentische KI im öffentlichen Sektor zu ermöglichen, müssen Sie ein Tool-Ökosystem aufbauen. Anschließend entscheidet das LLM, welche Tools für welche Antworten verwendet werden. Das kann ziemlich kompliziert werden.

Für eine effektive Integration müssen Sie:

• Lösungen finden, die sich in Ihre aktuellen Systeme integrieren lassen. Eigenständige Systeme, die nicht integriert werden können, verursachen mehr Probleme.

• Berücksichtigen Sie die KI-Reife bei der Untersuchung von Produkten. Lassen Sie sich nicht vom Hype einfangen. 

• schrittweise integrieren. Kleine, spezifische Deployments mit regelmäßigen Überprüfungen anhand Ihrer Erfolgskriterien stellen sicher, dass Sie die Kontrolle behalten.

• menschliche Faktoren stets im Blick behalten. Dies ist eine Frage der Beobachtbarkeit, Rückverfolgbarkeit und Verantwortlichkeit. 

Melden Sie sich an, um das Webinar Putting the responsible back into RAG and agentic AI auf Abruf anzusehen und sich tiefer mit Strategien zur Einführung von KI, Best Practices und Anwendungsfälle zu befassen. Oder kontaktieren Sie uns.