責任ある変革：公共部門のためのエージェント型AI

問題は、AIエージェントを公共部門に安全にデプロイできるか否かです。簡潔に言えば、これは可能です。ただし、責任とガバナンスが意図的に運営方法に組み込まれている場合に限ります。

データはAIの基盤となります。しかし、公共部門におけるデータは非常に機密性が高く、漏洩すれば国家安全保障上の影響を及ぼす可能性があります。そのため、データセキュリティが採用の最大の障壁となっています。これらの懸念が当然ながら躊躇を生み出す一方で、AIがもたらす可能性への期待も高まっています。

エージェント型AIは、責任ある形で導入されれば、従来のITワークフローを近代化し、社内プロセスを合理化し、組織の効率的な運営を支援することができます。AIエージェントは、人間の介入を最小限に抑えながら自律的に動作します。

公共部門において、エージェント型AIは市民サービスを向上させ、透明性を強化し、機関と市民の間の信頼ギャップを埋めるのに役立ちます。また、これらのサービスを提供する公務員の日常業務の質の向上にも貢献します。

オランダの防衛組織である物資・IT司令部（COMMIT）のデータ部門は、説得力のある例を示しています。同組織は、完全に閉鎖ネットワーク上で動作する組織内エアギャップ型大規模言語モデル（LLM）を開発しました。システムをインターネットから隔離することで、機密情報の安全性を確保しました。

AIから逃れることはできません。生成AIツールは一般市民にも広く普及しており、従業員は日常生活で既にそれらを試しています。そのため、公共機関もAIから完全に逃れることはできません。

無制限に公開のエージェント型AIツールにアクセスした場合、極めて機密性の高い市民データを危険にさらす可能性があります。適切な監督がなければ、組織はプライバシー侵害、コンプライアンス違反、データ漏洩のリスクにさらされます。

完全なロックダウンはしばしばシャドウAIエージェントの発生につながります。従業員は監視のない非公式ツールに頼るようになり、データ漏洩のリスクが高まります。そのリスクは可視化も管理もされないままとなります。

解決策は、組織固有のリスクプロファイルと許容度に基づいて、AIへのアクセス範囲のどの位置に組織を位置づけるべきかについて、意図的かつ戦略的な選択を行うことにあります。

セキュリティを設計段階から確保したインフラストラクチャが鍵となります。

• 必要に応じてエアギャップ環境またはローカルホストされたLLM

• 制御された導入パイプライン

• どのツールを誰がどのように使用できるかを明確に定義したガバナンス

オープンスタンダードに基づいて構築することで、長期的な回復力がさらに強化され、ベンダーロックインを防ぎ、ソリューションの将来性を確保できます。

留意すべき点は、技術面と組織面の両方において将来を見据えた対策が必要となる点です。内部で理解・管理・改善できない技術は、外部ベンダーへの依存を生み出します。

AIに関する知識と専門知識を組織内に集約することで、組織はツールを批判的に評価し、責任を持って導入し、その利用を継続的に最適化する能力を身につけることができます。ユーザー教育と社内の専門知識に投資することで、外部プロバイダーへの依存を減らし、長期的な回復力を高めることができます。

公共部門におけるAIエージェントの導入は、データのセキュリティ、情報への制御されたアクセス、そして関連性と正確性というミッションクリティカルな必要性という主要な課題に依存しています。ここで検索拡張生成（RAG）が登場します。

生成AIモデルとの典型的なやり取りは、機密データの漏洩リスクが高く、モデルが古いインターネットデータに依存しているため、ハルシネーションを引き起こすことも少なくありません。モデルを外部データから隔離し、ナレッジベースをループに組み込むことで、モデルが出力を生成するために使用するデータを制御でき、アクセスを統合し、AI出力のトレーサビリティを実現できます。

言い換えれば、RAGは、エージェントAIの応答を組織独自の検証済み知識ベースに基づかせ、モデルが承認された内部データのみに基づいて回答を生成できるようにします。

しかし、RAGの実装には新たな課題があります。RAGを効果的に導入するには、データへのアクセスが必要であり、ほとんどの公共部門の組織では、そのデータは非常に断片化されています。構造化データベース、NoSQLシステム、膨大な量の非構造化文書がエコシステム全体に散在しています。

データメッシュアプローチにより、これらの分散データセットを接続し、AIアプリケーションのための統一された知識レイヤーとして機能させることができます。その結果、安全でインテリジェントな検索とアシスタント機能が可能になります。これは、AI駆動型検索ソリューションや、データ主権を損なうことなく制御されたRAG環境内での攻撃検出といった高度なユースケースを支えることができます。

エージェント型AIの行政への導入は可能ですが、慎重に検討し、焦点を絞る必要があります。公共部門でエージェント型AIを実現するには、ツールエコシステムを構築する必要があります。次に、LLMがどのツールをどの回答に使用するかを決定します。これは非常に複雑になる可能性があります。

インテリジェントな統合の実現には、以下のことが求められます。

• 現在のシステムと統合するソリューションを見つけてください。統合しないスタンドアロンシステムは、さらなる問題を引き起こします。

• 製品を調査する際にはAIの成熟度を考慮する。誇大宣伝に惑わされないようにしましょう。

• 段階的に統合する。小規模で具体的な導入を実施し、成功基準に対して定期的にチェックを行うことで、コントロールを維持できます。

• 人間を常にプロセスに関与させる。監視可能性、追跡可能性、そして説明責任を担保する上で必要です。

ウェビナー「RAGとエージェント型AIに責任を取り戻す」をオンデマンドで視聴するには、ご登録してください。AI導入戦略、ベストプラクティス、ユースケースについてさらに深く掘り下げることができます。または、お問い合わせください。