负责任的转型：智能体 AI 赋能公共部门

关键问题是，能否安全地在公共部门部署 AI 智能体？答案是肯定的——但前提是必须有意识地将责任与治理机制融入其运作方式之中。

数据是 AI 的基石。但在公共部门，数据高度敏感，一次泄露便可能牵涉国家安全。这使得数据安全成为采用 AI 的最大障碍。尽管这些担忧难免令人踌躇，但人们对 AI 所能释放的潜能也日益满怀期待。

如果部署得当，智能体 AI 可以推动传统 IT 工作流现代化，简化内部流程，并助力组织更高效地运转。AI 智能体可自主工作，仅需最少的人工交互。

在公共部门，智能体 AI 可提升公民服务、增强透明度、帮助缩小机构与公众之间的信任鸿沟，同时改善一线公务员的日常工作体验。

荷兰国防组织的物资与 IT 指挥部（COMMIT）数据部门就是一个令人瞩目的成功范例。该部门自主开发了一个内部运行、气隙隔离的大语言模型（LLM），完全依托封闭网络运行。通过将系统与互联网实现物理隔离，确保了敏感信息的安全。

AI 浪潮已势不可挡。生成式 AI（GenAI）工具已在公众中广泛普及，员工也在日常生活中开始尝试使用。因此，公共部门组织无法置身事外。

不受限制地使用公共智能体 AI 工具会危及高度敏感的公民数据。若缺乏适当监督，组织将面临隐私侵犯、合规失败及数据泄露的风险。

全面封锁往往会导致“影子 AI 智能体”——员工在缺乏监管的情况下擅自使用未经许可的工具，不仅会增加数据泄露风险，更会让组织彻底失去可见性与治理能力。

归根结底，组织应根据自身的风险特征与承受能力，深思熟虑地进行战略取舍，界定最适合自己的 AI 访问准则。

“安全设计”的基础架构是关键：

• 必要时采用气隙隔离或本地托管的大语言模型（LLM）

• 受控部署管道

• 建立明确的治理机制，界定具备工具使用权限的人员及其使用方式

基于开放标准构建，可进一步增强长期韧性，防止供应商锁定，并确保解决方案具备前瞻性。

请记住：具备前瞻性的能力既关乎技术，也关乎组织。如果一项技术无法在内部被充分理解、管理或改进，就会导致对外部供应商的过度依赖。

建立内部 AI 知识与专业能力中心，可确保您的组织具备批判性评估工具、负责任地实施工具并持续优化其性能的能力。通过投资于用户教育和内部专业能力，您可以减少对外部提供商的依赖，并构建长期韧性。

在公共部门部署 AI 智能体，关键挑战在于：数据安全、受控信息访问，以及对相关性与准确性的关键任务需求。这正是检索增强生成（RAG）大显身手的领域。

与 GenAI 模型的典型交互可能导致敏感数据泄露，且由于模型依赖过时的互联网数据，往往会产生“幻觉”。通过对模型进行气隙隔离并将知识库纳入处理流程，您可以控制模型生成输出所使用的数据，从而整合访问权限并实现 AI 输出的可追溯性。

换句话说，RAG 会将智能体 AI 的响应建立在组织自身经过验证的知识库之上，确保模型仅根据经批准的内部数据来生成答案。

然而，实施 RAG 也带来了新的挑战：有效部署 RAG 取决于数据的可访问性，而在大多数公共部门组织中，数据高度碎片化。结构化数据库、NoSQL 系统以及海量的非结构化文档散落于整个生态系统之中。

数据网格方法可以帮助连接这些分布式数据集，使其成为 AI 应用的统一知识层。最终，这将构建出一种安全、智能的搜索与助手功能——不仅能在受控的 RAG 环境中支持 AI 驱动的搜索解决方案，甚至能实现攻击发现等高级用例，且绝不损害数据主权。

在政府部门采用智能体 AI 是可行的，但必须深思熟虑、目标聚焦。要在公共部门落地智能体 AI，就需要构建一个工具生态系统。随后由大语言模型 (LLM) 决定针对特定问题调用哪些工具。这一过程可能会非常复杂。

智能集成要求您：

• 寻找与您当前系统集成的解决方案。 不集成的独立系统最终会导致更多问题。

• 在调研产品时，请务必考量 AI 的成熟度。切勿盲目跟风。

• 逐步整合。 根据您的成功标准进行小规模、具体的部署，并定期检查，可确保您保持控制权。

• 保持人类参与决策闭环。这关乎可观测性、可追溯性与问责机制。

立即注册并点播观看“将责任重新融入 RAG 与智能体 AI”网络研讨会，深入了解 AI 采用策略、最佳实践和用例。您也可以直接联系我们。