MRH Trowe, 400명의 직원에게 거버넌스된 셀프서비스 AI 에이전트 접근 권한 부여
MRH Trowe는 AWS와 오픈소스 도구를 활용해 약 400명의 직원을 위한 안전한 AI 에이전트를 배포했으며, 규제 산업에서도 거버넌스된 셀프서비스를 확장할 수 있음을 보여줬다.
독일의 MRH Trowe는 약 400명의 직원을 대상으로 거버넌스된 셀프서비스 AI 플랫폼을 운영에 투입했으며, 금융 서비스의 보안 및 데이터 거주성 요구를 충족하기 위해 AWS 인프라와 오픈소스 소프트웨어를 사용했다.
이 상업 및 산업 보험 브로커의 첫 번째 프로덕션 에이전트는 Microsoft Teams 회의를 구조화된 회의록으로 바꾼다. 직원은 독일어로 특정 참가자가 포함된 최근 회의를 요청할 수 있으며, 그러면 에이전트가 캘린더 항목을 찾고, 전사본을 가져오며, 참가자, 안건 항목, 논의 주제, 후속 조치를 포함한 요약을 생성한다.
AWS는 이 배포를 Machine Learning Blog의 사례 연구로 소개했다. 따라서 이 계정은 벤더가 통제하며, 도입, 비용, 예상 절감 수치는 독립적으로 검증된 시장 데이터가 아니라 AWS가 보고한 수치로 간주해야 한다. 그럼에도 이 구현은 규제 대상 기업이 범용 채팅을 넘어 내부 시스템과 연결된 중앙 관리형 AI 에이전트로 이동하는 구체적인 예를 제공한다.
개별 실험에서 거버넌스된 플랫폼으로
AWS에 따르면 MRH Trowe는 주로 독일, 스위스, 오스트리아에서 사업을 운영하며, 유기적 성장과 인수를 통해 성장해 왔다. 이 회사는 AWS를 선호 클라우드 파트너로 삼아 독일 보험 브로커 중 가장 먼저 클라우드 기반 IT 인프라만으로 운영한 회사 중 하나였다.
생성형 AI에 대한 직원 수요가 증가하면서 개별 팀들이 독립적으로 도구를 실험하기 시작했다. AWS는 이로 인해 파편화된 배포와 민감한 고객 및 보험 정보의 잠재적 노출 위험이 생겼다고 말한다. 회사는 각 팀이 자체 기술 스택을 구축하지 않아도 직원이 AI 에이전트를 만들고 사용할 수 있기를 원했다.
이 요구사항은 일반적인 채팅 인터페이스를 넘어선다. MRH Trowe는 내부 정보에 기반한 응답, 여러 단계 작업을 수행할 수 있는 에이전트, 회사 시스템과의 안전한 연결, 접근 및 지출에 대한 중앙 집중식 감독이 필요했다. 회사의 목표는 일상적인 질문을 인간 개입 전에 AI가 답하고, 이전에 그 작업을 수행하던 직원들이 반복 작업을 자동화할 수 있도록 하는 것이다.
결과 플랫폼은 세 가지 구성 요소를 결합한다. 개발자는 에이전트 워크플로를 만들기 위한 오픈소스 소프트웨어 개발 키트인 Strands Agents를 사용한다. Amazon Bedrock AgentCore는 에이전트를 연결, 운영, 확장하기 위한 프로덕션 환경을 제공한다. LibreChat은 인증, 대화 관리, 브랜딩, 토큰 예산, 여러 모델 지원을 갖춘 직원용 인터페이스를 제공한다.
아이덴티티, 데이터 거주성, 인프라 제어
회의록 워크플로는 요청을 하는 직원의 아이덴티티를 중심으로 설계된다. LibreChat은 Microsoft Entra ID를 통해 사용자를 인증하고 그 아이덴티티를 서버 측에서 에이전트에 전달한다. 아이덴티티는 채팅 프롬프트를 통해 제공하거나 변경할 수 없으며, 에이전트는 사용자의 개인 캘린더와 회의 전사본 접근으로 제한된다.
AWS는 에이전트, 모델, 데이터가 AWS Europe (Frankfurt) 리전, 즉 eu-central-1에서 운영된다고 밝혔다. 이 지역 배치는 회의 및 고객 데이터를 독일 내에 유지하려는 의도이지만, AWS는 서비스와 모델의 가용성이 리전에 따라 다르다고 언급한다.
이 배포는 가상 프라이빗 클라우드 내의 단일 AWS 계정에서 실행된다. 직원들은 퍼블릭 인터넷으로 트래픽을 보내는 대신 기업 네트워크에서 transit gateway와 zero-trust 제공자를 통해 연결한다. 내부 Application Load Balancer가 요청을 프라이빗 서브넷의 애플리케이션 계층으로 라우팅한다.
AWS는 세션 격리를 MRH Trowe가 Amazon Bedrock AgentCore를 선택한 핵심 이유로 꼽는다. 이 서비스는 컴퓨팅 및 파일 시스템 수준에서 에이전트 세션을 격리하고 Strands Agents와 같은 오픈소스 프레임워크를 지원한다. 규제 대상 브로커에게 이 조합은 개발자의 유연성을 유지하면서 한 에이전트 세션이 다른 세션의 데이터에 접근할 수 있는 위험을 줄이기 위한 것이다.
무엇이 증명되고, 무엇이 증명되지 않는가
AWS는 배포가 프로덕션 첫 달에 약 400명의 직원에게 도달했다고 보고한다. 또한 해당 월의 초기 비용이 좌석당 약 14달러였고, 적정 규모 조정과 예정된 스케일링을 통해 인프라 비용을 약 40% 줄일 수 있는 경로가 있다고 보고한다.
이 수치는 배포의 경제성을 보여주는 유용한 지표이지만, 독립적인 벤치마크는 아니다. 제공된 사례 연구에서는 직원별 사용량, 모델 소비량, 에이전트 실행량, 혹은 예상 절감의 정확한 근거에 대한 상세한 내역을 제공하지 않는다. 또한 400명의 직원이 모두 정기적으로 시스템을 사용하는지, 회의록 에이전트가 수동 작업과 비교해 정확도, 지연 시간, 오류율에서 어떤 성능을 내는지도 입증하지 않는다.
다만 사례 연구는 MRH Trowe가 선택했다고 밝힌 기술적 설계 — 프라이빗 네트워크 경로, 지역 처리, 아이덴티티 기반 요청, 토큰 예산, 여러 모델을 지원하는 개방형 인터페이스 — 를 보여준다. 또한 첫 번째 프로덕션 사용 사례가 비교적 제한적이라는 점도 드러낸다. 회의 검색과 요약은 기록을 수정하거나 외부 커뮤니케이션을 보내거나 비즈니스 의사결정을 내리는 워크플로에 비해 에이전트의 권한을 제한하면서 즉각적인 가치를 제공할 수 있다.
이 배포가 AI 팀에 중요한 이유
빌더에게 MRH Trowe의 접근은 아이덴티티와 인프라를 에이전트 설계의 일부로 다루는 것이 중요하다는 점을 보여준다. 인증된 사용자 컨텍스트를 인터페이스에서 에이전트로 전달하면 접근 제어를 명시적으로 만들 수 있고, 세션 격리는 다중 사용자 배포에서 또 다른 위험 계층을 해결한다.
이 아키텍처는 실험과 프로덕션 운영을 분리한다. 개발자는 Strands Agents를 사용해 워크플로를 구축할 수 있으며, 모든 하위 인프라를 직접 구현할 필요가 없다. 반면 AgentCore는 관리형 런타임과 사용량 기반 모델을 제공한다. LibreChat은 브로커가 상용 채팅 제품을 유일한 인터페이스로 채택하지 않고도 익숙한 전면 인터페이스를 제공한다.
기업 구매자에게는 여러 모델 사용이 단일 모델 공급자에 대한 의존도를 낮추고 팀이 특정 작업에 맞춰 모델을 선택할 수 있게 해준다. 토큰 예산은 기본적인 비용 통제 메커니즘을 제공하지만, 품질, 지연 시간, 데이터 접근, 에이전트 실패에 대한 모니터링을 대체하지는 않는다. 이러한 운영 질문은 에이전트가 요약에서 보험 시스템 전반의 작업으로 확장될수록 더 중요해질 것이다.
이 배포는 또한 규제 환경에서의 엔터프라이즈 AI에 대한 실용적인 경로를 보여준다. 즉, 유용하고 내부적으로 제한되며 감사 가능한 워크플로로 시작하고, 사용자 수준 권한을 적용하며, 처리를 승인된 리전에 유지하고, 부서별로 관리되지 않는 도구 대신 중앙 플랫폼을 통해 접근을 확장하는 방식이다.
앞으로 주목할 점
다음 신호는 MRH Trowe가 회의록을 넘어 보험 및 고객 기록을 조회하거나 업데이트하는 워크플로로 확장하는지 여부다. 그런 사용 사례는 에이전트가 중대한 행동을 취할 수 있을 때에도 플랫폼의 아이덴티티 제어와 세션 격리가 충분한지 시험하게 된다.
도입 품질은 보고된 직원 수만큼 중요하다. 활성 사용량, 작업 완료율, 인간 검토, 오류 처리, 절약된 시간에 대한 후속 증거는 첫 달 접근 수치보다 비즈니스 가치를 더 명확하게 보여줄 것이다.
비용 보고도 주의 깊게 볼 영역이다. 약 40% 절감은 적정 규모 조정과 예정된 스케일링에 달려 있으므로, 최적화 후 실제 지출은 사용이 늘어날 때 사용량 기반 인프라가 예측 가능한지 구매자가 평가하는 데 도움이 될 것이다. 모델 선택과 지역 가용성에 대한 추가 세부 사항도 워크로드와 관할권 전반에서 아키텍처의 이식성을 더 명확히 해줄 것이다.
Creati.ai 관점
MRH Trowe의 배포가 주목할 만한 이유는 챗봇을 직원 앞에 둔다는 점보다 셀프서비스 AI를 거버넌스된 내부 플랫폼으로 취급한다는 데 있다. 직원에 묶인 권한, 프라이빗 연결성, 지역 처리, 통제된 에이전트 실행의 조합은 규제 대상 조직이 실험에서 프로덕션으로 이동하는 것을 주저하는 여러 이유를 해결한다.
다만 증거는 여전히 벤더 사례 연구이므로, 도입과 비용에 대한 주장은 독립적인 검증이 필요하다. 그럼에도 이 설계는 금융 서비스 AI를 위한 합리적인 단기 패턴을 제시한다. 우선 좁고 감사 가능한 에이전트부터 시작하고, 더 넓은 자동화는 입증된 신뢰성, 명확한 승인 경계, 기업이 측정할 수 있는 운영 비용에 달려 있다는 것이다.
