유행은 끝났습니다. 이제 생성형 AI가 기업 내 검색을 주도합니다

2025년은 생성형 AI가 개념 검증을 넘어 기업 환경에서 실제로 활용되는 해가 될 것입니다. 올바른 데이터 기반을 갖춘 기업은 지식 자산에서 더 큰 가치를 끌어내어 장기적인 혁신과 경쟁 우위를 실현할 수 있습니다. 영업, 고객 서비스, 마케팅 등 어떤 분야에서든 활용 가능한 사례들이 빠르게 늘어나고 있으며, 선도 기업들은 이미 효율성 향상을 실현하고 있습니다. 

이처럼 수많은 기회가 있는 가운데, 어디서부터 시작해야 할까요? Accenture의 Search and Content Analytics Group 전무인 데렉 로드리게스는 그 해답을 검색의 진화에서 찾을 수 있다고 말합니다. “수년간 우리는 사용자가 검색어를 입력하고 결과를 직접 판단해 필터링하는 전통적인 키워드 기반 검색에 의존해왔습니다. 하지만 최근에는 실시간 인덱싱, 분산 아키텍처, 의미 기반 검색이 사용자 의도와 컨텍스트를 이해함으로써 정확도를 높이고 있습니다.” 

오늘날의 AI 기반 검색 플랫폼은 여기서 더 나아가 정형 데이터와 비정형 데이터를 통합하여 콘텐츠를 요약하고 인사이트를 생성합니다. 이러한 시스템은 데이터 내의 의도, 컨텍스트 및 관계를 이해하여 더 빠르고 정확한 의사 결정을 내리고 수동 조사의 필요성을 줄여줍니다. “검색 워크플로우를 자동화하면 지식 관리 비용을 획기적으로 줄일 수 있어, 데이터의 가치 방정식을 바꾸고 기업 데이터에 대한 투자 대비 효과를 높일 수 있습니다.”라고 로드리게스는 말합니다. 

이러한 혁신적인 접근 방식에는 고급 검색 및 순위 지정을 통해 벡터화되고 최적화된 데이터 기반이 필요합니다. 이러한 기반이 마련되면, 기업은 자사 데이터를 대규모 언어 모델(LLM)과 결합하여 신뢰할 수 있고 규정을 준수하는 인사이트를 도출할 수 있습니다.  

Elastic의 검색 부문 전무인 스티브 메이잭(Steve Mayzak)은 이렇게 말합니다. “벡터화가 잘 되어 있고 검색 가능한 지식 베이스는 비즈니스 시스템과 통합하기 위한 유연한 출발점이 되며, 중요한 비즈니스 상황에서 장기적인 가치를 제공합니다.”

이 지점에서 Accenture와 Elastic의 파트너십이 중요한 역할을 합니다. Elastic의 확장 가능하고 AI 기반의 검색 기능과 Accenture의 깊이 있는 산업 전문성이 결합되어, 기업이 데이터의 가치를 극대화하고 실질적인 비즈니스 성과를 이끌어낼 수 있도록 지원합니다..  

로드리게스에 따르면, Elastic의 매력은 AI 검색 기술의 정확성과 관련성뿐만 아니라 고급 모니터링 기능과 다양한 AI 생태계 파트너와의 통합에 있다고 합니다. Accenture는 뛰어난 산업 전문성, 전략적 컨설팅 역량, 그리고 복잡한 기술 솔루션을 구현하고 통합할 수 있는 숙련된 글로벌 전문가 네트워크를 제공합니다. Accenture는 직원 채용과 Elastic 기술에 대한 교육을 지속적으로 진행하며 양사 협력의 중요성을 강조하고 있습니다.

Accenture와 Elastic은 기업들이 가장 어려운 질문 중 하나인 “어디서부터 시작해야 할까?”에 대한 해답을 찾을 수 있도록 도와줍니다. 은 조직이 데이터가 풍부하고 정확한 사용 사례를 찾아야 한다고 말합니다. "오늘날의 LLM 역량에 가장 적합하고 성공 가능성이 높은 이니셔티브를 선택하세요. “가치를 입증함으로써 더 많은 프로젝트를 위한 예산을 확보하고, 실질적인 추진력을 만들어낼 수 있습니다.”

두 조직 모두 서로 다른 환경에서 비정형 데이터를 관리한 풍부한 경험을 가지고 있습니다. “현실 세계에서 조직의 데이터는 계층 구조, 네트워크, 다차원적 관계에 걸쳐 있어 매우 복잡합니다.”라고 로드리게스는 말합니다. 

제약, 소매, 자동차, 이커머스 산업과 같은 분야의 대규모 조직은 수백 테라바이트에서 페타바이트에 이르는 방대한 데이터를 보유하고 있습니다. 그러나 이 디지털 자산의 상당 부분은 활용되지 않고 있습니다. 평균적으로 기업들은 보유 데이터의 32%만을 실제로 활용하며, 나머지 3분의 2 이상은 방치되고 있습니다.¹

Accenture는 중첩된 레코드, 비즈니스 식별자, 다양한 순위 신호 간의 복잡한 연결을 가능하게 하여 이러한 간극을 메워줍니다. 이러한 지표에는 관련성 점수, 인기도, 판매량 및 분류 체계가 포함됩니다.

이처럼 복잡한 환경에서는 단순한 벡터 데이터베이스로는 한계가 있습니다. 이는 마치 성냥 하나로 경기장을 비추려는 것과 같으며, 기술적으로 가능하더라도 과제의 규모를 감당하기에는 현저히 부족합니다.

탄탄한 기반을 갖춘 조직은 대부분의 경영진이 예상하는 것보다 훨씬 빠르게 다가오는 AI 중심의 미래를 대비해 비즈니스를 설계할 수 있습니다. 여기에는 자동화뿐만 아니라 인간 감독자와 함께 자율적인 의사결정을 수행할 수 있는 에이전틱 프레임워크도 포함됩니다. 

로드리게스는 에이전트를 세 가지 범주 중 하나로 분류합니다.  

1. 가장 기본적인 수준에서 조직은 자체 내부 검색 및 질문 응답 시스템을 구축할 수 있습니다. 이러한 에이전트는 정형 데이터와 비정형 데이터를 자연어로 질의하거나, 회의실 예약, 연락처 정보 검색, 길 안내 제공 등 다양한 작업을 수행할 수 있습니다.  

2. 두 번째 유형의 에이전트 행동은 로봇 프로세스 자동화(RPA) 및 비즈니스 자동화와 관련이 있습니다. 예를 들어 송장 처리의 경우, 송장이 들어오면 일련의 검토 절차와 재무 시스템 내 데이터 등록 과정이 자동으로 시작됩니다. 생성형 AI는 이 프로세스의 수동 단계를 자동화하여 정확성을 높이고 비용을 절감할 수 있습니다.

3. 더 나아가 에이전트는 공동 작업자 팀으로 활동하며 문제를 해결하기 위해 협력할 수 있습니다. 감독 에이전트는 마케팅 브리프 작성과 같은 작업을 정의하고, 다른 전문 에이전트에게 하위 작업을 위임할 수 있습니다. 이러한 하위 에이전트들은 필요한 정보를 수집하고 이를 종합하여 최종 결과물을 완성합니다.

이 모든 사례에서 벡터화된 검색 가능한 지식 저장소는 필수적입니다. “에이전트 기반 워크플로우를 효과적으로 활용하려면 조직이 반드시 투자해야 할 부분이며, Elastic이 그 과정을 지원할 수 있습니다.”라고 로드리게스는 말합니다.

로드리게스는 지금 당장 행동해야 할지, 아니면 생성형 AI의 첫 번째 물결을 지켜볼지 결정하지 못한 기업에 분명한 메시지를 전합니다. “크게 생각하세요. 이메일 작성 시간을 몇 초 단축하는 챗봇을 넘어서는 것이 필요합니다. 다행히 Elasticsearch와 같은 플랫폼이 정교한 데이터 모델링과 엔터프라이즈 수준의 과제에 대한 검색을 제공합니다.”