조직 지식 부족으로 정체된 기업용 AI 에이전트

MIT Technology Review Insights에 따르면 많은 기업용 AI 에이전트가 데이터를 해석하고 안정적으로 행동하는 데 필요한 조직 맥락이 부족해 파일럿을 넘어가지 못하고 있다. 데이터, AI, 기술 분야 임원 300명을 대상으로 한 설문에 기반한 새 보고서는 에이전트형 AI 프로젝트 가운데 평균 약 34%만이 프로덕션에 도달한다고 밝혔다.

이 결과는 더 많은 문서나 더 큰 언어 모델에 접근하는 것보다 더 근본적인 문제를 가리킨다. 에이전트는 특정 기업 내부에서 정보가 무엇을 의미하는지, 사건들이 어떻게 서로 연결되는지, 그리고 어떤 절차가 의사결정을 규정하는지를 이해해야 한다. 이러한 맥락이 없으면 조직은 작동하는 시연을 보유할 수는 있지만, 프로덕션 업무를 맡길 만큼 신뢰할 수 있는 시스템을 갖추지는 못할 수 있다.

프로덕션 격차는 지식 격차이기도 하다

이 보고서는 기업 지식을 세 가지 광범위한 역량으로 나눈다. 데이터의 의미와 관계를 설명하는 의미론적 지식, 관련 과거 사건을 기록하는 에피소드 기억, 그리고 업무가 어떻게 수행되어야 하는지를 담는 절차적 지식이다.

MIT Technology Review Insights는 이 영역에서 더 강한 역량을 가진 조직일수록 에이전트 프로젝트를 진전시킬 가능성이 높다고 보고했다. 보고서가 프로덕션 리더로 분류한 그룹은 에이전트형 AI 프로젝트의 평균 61%를 파일럿 단계 이상으로 발전시켰다. 설문에 참여한 전체 조직의 평균은 약 3분의 1이었다.

이 보고서는 더 나은 지식 역량이 높은 프로덕션 전환율을 직접적으로 야기한다고 입증하지는 않는다. 두 요소 사이에 밀접한 관계가 있음을 제시할 뿐이다. 이 차이는 중요하다. 해당 연구는 배포된 시스템에 대한 독립적인 감사가 아니라 임원들의 응답에 기반했기 때문이다.

설문조사에서는 에이전트의 조직 지식 접근 범위를 확대하는 데 가장 자주 언급된 장애물로 데이터 파편화가 꼽혔다. 응답자의 55%가 이를 지적했다. 연결되지 않은 애플리케이션과 일관되지 않은 데이터 구조는 에이전트가 고객, 프로세스, 위험 또는 비즈니스 사건을 종합적으로 파악하기 어렵게 만든다.

프로덕션 리더 그룹에서는 보안과 개인정보 보호에 대한 우려가 더 두드러졌으며, 해당 그룹의 72%가 이를 언급했다. 이는 배포를 더 크게 진전시킨 조직들이 에이전트에 민감한 정보에 대한 더 넓은 접근 권한을 부여할 때 발생하는 거버넌스 문제에 직면하고 있음을 의미할 수 있다.

에이전트에 기업 맥락이 중요한 이유

기존 검색 시스템은 문서가 기업의 운영 규칙에 어떻게 들어맞는지 이해하지 않고도 관련 문서를 반환할 수 있다. 행동 방침을 추천하거나 워크플로를 실행해야 하는 에이전트에는 더 많은 것이 필요하다. 에이전트는 신뢰할 수 있는 정보를 식별하고, 충돌하는 기록을 조정하며, 이미 일어난 일을 기억하고, 승인된 절차를 따라야 한다.

보고서가 데이터와 지식을 구분하는 지점이 바로 이것이다. 데이터는 계정이 결제를 연체했거나 부품 재고가 없다는 사실을 보여줄 수 있다. 지식은 해당 계정에 특별 계약이 적용되는지, 재고 기록이 최신인지, 그 상황에서 조직이 허용하는 조치가 무엇인지 에이전트가 판단하도록 돕는다.

이러한 맥락 문제는 실제 워크플로에서 AI 에이전트의 신뢰성에 영향을 준다. 파편화된 시스템에 연결된 에이전트는 다른 애플리케이션에 저장된 예외를 놓친 채 그럴듯한 답변을 생성할 수 있다. 고객 지원, 금융, 조달 또는 운영 환경에서는 이러한 실패가 단순히 답변하지 못하는 것보다 더 큰 피해를 줄 수 있다.

보고서의 결과는 검색 증강 생성만으로는 모든 배포 문제를 해결하지 못할 수 있는 이유도 설명한다. 검색은 모델에 제공되는 정보를 개선할 수 있지만, 조직은 여전히 출처의 품질, 접근 권한, 데이터 관계, 에이전트가 수행할 수 있는 작업의 순서에 관한 규칙을 필요로 한다.

기업은 지식 레이어를 구축하고 있다

조사에 참여한 임원들은 에이전트의 의사결정 품질을 가장 크게 향상시키려면 기업 데이터와 AI 시스템 사이의 구조적 연결을 강화해야 한다고 예상했다. 보고서는 이를 지식 레이어라고 설명한다. 지식 레이어는 고립된 데이터 저장소가 아니라 사용 가능하고 맥락화된 정보에 에이전트가 접근할 수 있도록 하는 조직 기반이다.

보고서가 확인한 투자 우선순위에는 수집 파이프라인, AI 지원 API, 검색 증강 생성, 평가 에이전트, 지식 그래프가 포함된다. 이 기술들은 문제의 서로 다른 부분을 다룬다. 파이프라인은 정보를 사용할 수 있도록 준비하고, API는 데이터와 비즈니스 기능을 일관된 방식으로 공개하며, 지식 그래프는 비정형 텍스트만으로는 추론하기 어려운 관계를 표현할 수 있다.

보고서는 이러한 영역을 조직의 우선순위이자 전문가 권고로 제시할 뿐, 하나의 아키텍처가 모든 기업에서 작동한다는 증거로 제시하지는 않는다. 예를 들어 지식 그래프는 엔터티와 종속 관계를 매핑하는 데 도움이 될 수 있지만, 정의와 관계를 지속적으로 관리할 책임도 필요하다. 마찬가지로 AI 지원 API는 접근성을 높일 수 있지만, 불완전하거나 거버넌스가 미흡한 원천 데이터에 에이전트를 노출할 가능성은 여전히 존재한다.

개발자에게 이러한 의미는 에이전트 개발에 데이터 엔지니어링, 메타데이터 관리, 접근 제어, 워크플로 설계가 점점 더 포함된다는 것이다. 모델은 여전히 중요하지만, 프로덕션 시스템을 구성하는 하나의 요소일 뿐이다.

개발자와 구매자에게 조사 결과가 의미하는 것

AI 에이전트를 평가하는 제품팀은 에이전트가 정해진 시연을 완료할 수 있는지만 측정해서는 안 된다. 올바른 출처를 선택하는지, 충돌하는 기록을 처리하는지, 권한을 준수하는지, 관련 사건을 기억하는지, 특정 행동을 취한 이유를 설명하는지를 테스트해야 한다.

평가 에이전트는 이 과정에서 유용해질 수 있으며, 특히 기업 정책과 예상 결과에 따라 대량의 의사결정을 테스트할 때 유용할 수 있다. 그러나 자동화된 평가는 영향력이 큰 워크플로에 대한 인간의 검토를 보완해야 하며 대체해서는 안 된다. 원자료는 이러한 평가 시스템의 정확성이나 성숙도에 대한 상세한 증거를 제공하지 않는다.

기업 구매자는 데이터 파편화를 백오피스의 불편함이 아니라 배포 제약으로 다뤄야 한다. 에이전트를 더 많은 시스템에 연결하면 도달 범위가 넓어질 수 있지만, 동시에 실패 지점의 수와 잠재적인 개인정보 침해의 범위도 확대된다. 프로덕션 리더들이 보안을 강조했다는 점은 성공적인 배포를 위해 역량과 함께 접근 정책과 감사 가능성도 성숙해야 함을 시사한다.

창업자와 플랫폼 공급업체에게 시장의 신호는 수요가 독립형 에이전트 인터페이스에서 기업 지식을 활용 가능하게 만드는 인프라로 이동할 수 있다는 것이다. 검색, 권한, 기억, 평가, 워크플로 실행을 통합하는 제품은 신뢰할 수 있는 조직 맥락 없이 자율성을 약속하는 시스템보다 구매자가 당면한 문제에 더 직접적으로 대응할 수 있다.

다음에 주목할 점

다음으로 중요한 신호는 기업들이 지식 레이어에 투자한 뒤 더 높은 프로덕션 전환율을 보고하는지, 그리고 그러한 개선이 규제 산업과 데이터 집약적 산업 전반에서 유지되는지 여부다. 구매자는 파일럿 수나 도입에 대한 광범위한 주장보다 독립적으로 검증 가능한 배포 증거를 찾아야 한다.

공급업체들이 AI 지원 API를 어떻게 정의하는지, 지식 그래프를 어떻게 최신 상태로 유지하는지, 검색 시스템이 여러 기업 애플리케이션에서 권한을 보존할 수 있는지도 추적해야 한다. 보안 사고, 평가 실패, 수동 검토의 측정 가능한 감소는 시연만으로는 알 수 없는 프로덕션 준비 상태를 더 잘 보여줄 것이다.

이 보고서는 MIT Technology Review의 맞춤형 콘텐츠 부문인 Insights가 제작했으며, 편집부가 제작한 것이 아니다. 따라서 설문 결과는 임원들의 우선순위를 방향성 있게 보여주는 자료로는 유용하지만, 확정적인 시장 측정치가 아니라 연구에 기반한 주장으로 읽어야 한다.

Creati.ai의 관점

핵심 교훈은 실용적이다. 기업 에이전트는 더 많은 데이터를 받는다고 해서 신뢰할 수 있게 되는 것이 아니다. 비즈니스 의미, 이력, 권한, 절차에 대한 지속적으로 관리되는 이해가 필요하다. 따라서 지식 인프라는 모델을 선택한 뒤 추가하는 선택적 개선 기능이 아니라 AI 제품 스택의 핵심 구성 요소다.

가장 강력한 배포는 맥락을 측정 가능한 인프라로 다루는 배포일 가능성이 높다. 에이전트가 어떤 출처를 사용했는지, 어떤 규칙이 에이전트를 제한했는지, 의사결정이 어떻게 평가되었는지를 보여줄 수 있는 팀은 유창한 출력에만 의존하는 팀보다 파일럿에서 프로덕션으로 나아가는 경로를 더 명확하게 확보할 수 있다.