AI 격차 해소: 차세대 지식 액세스로 정부의 임무 성과를 실현하는 방법

차세대 지식 액세스는 기존의 검색 방식과 정적인 지식 리포지토리를 넘어 정보를 찾고 이해하며 활용하는 고급 접근 방식입니다.

공공 부문에서는 AI 시스템과 운영자가 적시에 적절한 맥락에서 필요한 지식에 액세스할 수 있게 된다는 의미입니다. 이를 통해 서로 단절된 여러 소스를 수동으로 검색할 필요가 없어집니다.

많은 지역에서 재정적 압박이 심화되고 있습니다. 평가 대상인 193개의 유엔 회원국 전반에서 복원력 있는 인프라 및 첨단 기술에 대한 투자가 계속해서 증가하고 있습니다.² 리더들은 더 적은 자원으로 더 나은 성과를 내야 한다는 요구를 받고 있으며, 이러한 격차를 해소하기 위해 AI를 도입하고 있습니다.

공공 부문 리더가 얻어야 할 전략적 시사점은 명확합니다. AI는 더 이상 선택적으로 추진할 수 있는 혁신 과제가 아닙니다. AI는 점차 정책 및 서비스 제공의 우선순위로 자리 잡고 있으며, 이를 실제 운영에 도입하지 못하는 기관은 감독 기관, 선출직 공무원, 그리고 서비스를 제공받는 대중으로부터 갈수록 더 큰 압박을 받게 될 것입니다.

72%라는 수치는 더 면밀히 살펴볼 필요가 있습니다. IDC 연구에서 파악한 AI 확장의 주요 장애 요인은 기술 격차, 보안 및 규정 준수 위험, 데이터 준비도입니다.¹

기존의 데이터 웨어하우스는 선별된 정형 데이터의 정기적인 분석을 위해 구축되었습니다. 반면 에이전틱 AI는 다음을 포함할 수 있는 훨씬 광범위한 지식 영역에 빠르고 거버넌스가 적용된 방식으로 액세스해야 합니다.

• 정책 및 절차

• 사례 기록 및 서신

• 통화 녹취록, 양식 및 운영 로그

• 실시간 사이버 보안 위협 신호

이러한 콘텐츠의 대부분은 비정형이며 사일로형 시스템에 존재하므로 상관관계를 파악하고 분석하기가 어렵습니다. 또한 현재 상태에서는 AI 에이전트가 이를 검색하거나 활용하지 못할 수도 있습니다.

이러한 과제는 종종 검색 레이어에서 나타납니다. 권위 있는 지식에 대한 거버넌스 기반 액세스가 없으면 AI 애플리케이션이 신뢰성이 떨어지는 결과를 생성할 수 있으며, 기관이 대중의 신뢰를 구축하고 유지하기가 더 어려워집니다.

각종 규정에서 프로덕션 환경에 AI를 배포하기 위한 요건을 정의하기 시작했습니다. EU AI 법 및 상호 운용 가능한 유럽 법안은 신뢰할 수 있고 상호 운용 가능한 디지털 공공 서비스를 위한 공식 표준을 마련하려는 광범위한 글로벌 추세를 보여줍니다. 동시에 디지털 및 AI 주권이 조달 결정과 운영 요건에 미치는 영향도 점차 커지고 있습니다.

IDC 연구에 따르면, 생성형 AI와 에이전틱 AI를 확장하는 공공 부문 조직은 다음 사항을 우선시하고 있습니다.

• 데이터 저장 위치 보장(46%)

• 검색 기반 그라운딩 및 정책 필터를 포함한 안전 가드레일(43%)

• 프롬프트와 작업에 대한 감사 가능성(40%)

• 사람이 개입하는 승인 절차(39%)

• 모델 출처 및 소프트웨어 자재 명세서(38%)¹

이러한 요건은 배포 후에 추가하는 것이 아니라 처음부터 고려해야 합니다. 이러한 요건에 따라 아키텍처, 도구 선택 및 시스템 설계가 결정됩니다. IDC가 고위 공무원들과 나눈 대화에 따르면 정책 입안자들은 "위기 시에 제어할 수 있는" AI 인프라를 원하고 있으며, 이는 데이터 저장 위치 요건에서 AI 로드맵에 대한 전략적 자율성으로 관심이 확대되고 있음을 보여줍니다.¹

의사 결정권자의 경우, 이는 선정 프로세스 초기 단계에서 거버넌스 및 주권 요건을 평가해야 함을 의미합니다. 모델 성능은 해당 기술이 기관의 규정 준수 요건을 충족하면서 운영될 수 있을 때만 의미가 있습니다.

서로 맞물리는 세 가지 추세가 이러한 진화를 이끌고 있습니다.

• 표준 방식으로 자리 잡은 하이브리드 검색: 하이브리드 검색은 키워드(어휘) 검색 및 시맨틱 검색을 결합하여 정확한 일치와 맥락적 이해 사이의 균형을 유지하면서 RAG 및 에이전틱 워크플로우를 지원합니다.

• 개방형 통합 프로토콜: 대규모 언어 모델(LLM) 애플리케이션을 외부 데이터 소스 및 도구와 연결하기 위한 개방형 사양인 모델 컨텍스트 프로토콜(MCP)과 같은 표준은 통합을 가속화하는 동시에 연결 대상과 로그 기록 방식에 관한 거버넌스 요건을 강화합니다.

• 안전 메커니즘으로서의 보안 및 위험 통제: 권한 필터링, 민감 정보 마스킹, 감사 로그 및 출처 추적을 통해 검색 아키텍처를 미국 국립표준기술연구소(NIST)의 AI 위험 관리 프레임워크와 같은 프레임워크에 부합하도록 설계할 수 있습니다.³

이러한 기능을 결합하면 검색을 AI에 바로 활용할 수 있는 검색 서비스로 전환할 수 있습니다. 이 서비스는 데이터를 규정에 부합하는 위치에 유지하면서 분산 시스템 전반에서 제어된 저지연 액세스를 지원합니다.

검색에 거버넌스가 일관되게 적용되면 그 혜택이 조직 전반으로 확산됩니다. IT 팀과 개발자는 표준화된 커넥터, 색인 방식, 검색 API를 통해 프로젝트별 개별 통합 작업을 줄이고 여러 프로젝트의 제공 속도를 높일 수 있습니다. 보안 및 거버넌스 팀은 불필요한 데이터 복사를 제한하고 정보 액세스에 대한 감사를 더욱 용이하게 수행할 수 있습니다.¹

기관은 다음과 같은 사항을 기대할 수 있습니다.

• 통합된 운영 현황으로 데이터 사일로를 해소하고 가시성을 높이며 팀이 더 빠르고 정확한 의사 결정을 내리는 데 필요한 맥락을 제공

• 분산된 검색 및 조회 도구의 통합을 통한 효율성 향상

• 기본 제공되는 권한 필터링, 민감 정보 삭제 및 감사 로그를 통한 규정 준수 위험 감소

• 정부 사이버 보안, 사례 관리, 시민 서비스 전반의 AI 사용 사례를 더욱 빠르게 프로덕션에 도입

• 정책 요건에 따라 주권이 보장되는 환경이나 온프레미스 환경에 배포할 수 있는 역량을 바탕으로 AI 로드맵에 대한 전략적 자율성

이러한 성과가 중요한 이유는 감독 기구와 선출직 공무원이 궁극적으로 거버넌스, 감사 가능성 및 임무 효과를 입증할 증거를 요구하기 때문입니다. 이러한 성과를 입증하지 못하는 AI 투자는 위험에 처할 수 있습니다.

연구 결과는 명확한 전략적 방향을 제시합니다. AI 확장의 핵심 과제는 모델 선정이 아닙니다. 이는 아키텍처의 문제이며, 검색 레이어가 중요한 역할을 합니다.

공공 부문 리더가 우선시해야 할 세 가지 사항이 IDC 조사 결과에서 도출됩니다.

• 데이터 준비도를 병행 과제가 아닌 필수 전제 조건으로 취급하세요. AI 파일럿을 확장하기 전에, 대규모 확장을 지원할 수 있는 거버넌스 기반 검색 토대에 투자하세요.

• 처음부터 주권을 고려하여 설계하세요. 데이터 저장 위치, 감사 가능성 및 사람의 감독은 단순한 규정 준수 확인 항목이 아닙니다. 이는 플랫폼 선택을 좌우하는 아키텍처 요건입니다.

• 개방형 표준을 기반으로 구축된 플랫폼을 선택하세요. 상호 운용성은 공급업체 종속을 방지하고, 정책과 지정학적 여건이 변화해도 전략적 자율성을 유지해 줍니다.

지금 이러한 우선순위에 따라 행동하는 기관이 향후 2~3년 동안 AI를 통해 측정 가능한 임무 성과를 달성하게 될 것입니다.

Elastic과 AWS가 공동 후원한 IDC Spotlight 전체 보고서는 설문 조사 데이터, 글로벌 정책 분석 및 이 아키텍처 전반의 지침을 제공합니다. IDC Spotlight 보고서 다운로드: 정부 내 AI 격차 해소

• Elastic의 공공 부문 AI 사용 사례를 살펴보세요.

• 공공 부문 조직이 Elasticsearch를 활용하는 방법을 알아보세요.

• 공공 부문의 생성형 AI 및 시맨틱 검색에 관한 기사를 읽어보세요.