MRH Trowe 使用 AWS 與開源工具為約 400 名員工部署安全的 AI 代理,展示受監管企業如何擴展受治理的自助式服務。

德國的 MRH Trowe 已將一個受治理的自助式 AI 平台投入正式生產,供約 400 名員工使用,並採用 AWS 基礎設施與開源軟體,以滿足金融服務業對安全性與資料駐留的需求。
這家商業與工業保險經紀公司的第一個正式生產代理,會將 Microsoft Teams 會議轉換為結構化會議紀錄。員工可以用德文詢問某位與會者參與的近期會議,之後該代理會找到行事曆項目、擷取逐字稿,並產生涵蓋與會者、議程項目、討論主題與後續行動的摘要。
AWS 在 Machine Learning Blog 的案例研究中描述了這項部署。因此,該帳戶受供應商控制,其採用率、成本與預估節省數字應被視為 AWS 的報告,而非經獨立驗證的市場資料。不過,這項實作提供了一個具體例子,說明受監管公司如何從通用聊天轉向連接內部系統、由中央管理的 AI 代理。
根據 AWS 的說法,MRH Trowe 主要在德國、瑞士與奧地利營運,並透過有機成長與收購而擴張。該公司是最早僅在雲端 IT 基礎設施上運作的德國保險經紀商之一,而 AWS 則是其首選雲端合作夥伴。
隨著員工對生成式 AI 的需求增加,各個團隊開始自行嘗試工具。AWS 表示,這造成了部署碎片化以及敏感客戶與保險資訊可能外洩的風險。公司希望員工能建立並使用 AI 代理,而不需要每個團隊都自行打造技術堆疊。
這項需求超出了一般聊天介面的範疇。MRH Trowe 需要以內部資訊為基礎的回應、能執行多步驟工作的代理、安全連線到公司系統,以及對存取與支出的集中監督。其明確目標是讓日常問題先由 AI 回答,再由人類介入,並將先前由員工執行的重複性工作自動化。
最終平台結合了三個元件。開發者使用 Strands Agents,這是一個用於建立代理工作流程的開源軟體開發套件。Amazon Bedrock AgentCore 提供連接、運作與擴展代理的正式生產環境。LibreChat 則提供面向員工的介面,具備驗證、對話管理、品牌設定、token 預算,以及對多模型的支援。
會議紀錄工作流程是圍繞提出請求的員工身分所設計。LibreChat 透過 Microsoft Entra ID 驗證使用者,並將該身分在伺服器端傳遞給代理。身分無法透過聊天提示提供或更改,而代理只限於存取使用者自己的行事曆與會議逐字稿。
AWS 表示,代理、模型與資料都在 AWS Europe (Frankfurt) 區域,也就是 eu-central-1 中運作。這個區域配置旨在將會議與客戶資料保留在德國境內,不過 AWS 也指出,服務與模型的可用性會因區域而異。
該部署在單一 AWS 帳戶中的虛擬私有雲內執行。員工透過 transit gateway 與 zero-trust 供應商從公司網路連線,而不是透過公開網際網路傳送流量。內部 Application Load Balancer 會將請求導向私有子網路中的應用層。
AWS 指出,會話隔離是 MRH Trowe 選擇 Amazon Bedrock AgentCore 的關鍵原因之一。此服務在運算與檔案系統層級隔離代理會話,並支援如 Strands Agents 這類開源框架。對受監管的經紀商而言,這種組合旨在保留開發彈性,同時降低一個代理會話存取另一個會話資料的風險。
AWS 報告指出,這項部署在正式上線的第一個月就觸及約 400 名員工。AWS 也報告該月每個座位的初始成本約為 14 美元,並預估可透過適當規模調整與排程擴縮,將基礎設施成本降低約 40%。
這些數字對於了解部署的經濟性很有幫助,但並非獨立基準。在所提供的案例研究中,AWS 並未提供按員工劃分的使用量、模型消耗、代理執行量,或預估降低成本的精確依據等詳細拆解。證據也無法證明 400 名員工是否都 नियमित地使用系統,或是會議紀錄代理在準確性、延遲或錯誤率方面與人工工作相比表現如何。
不過,案例研究確實說明了 MRH Trowe 所稱的技術設計選擇:私有網路路徑、區域化處理、與身分綁定的請求、token 預算,以及支援多模型的開放介面。它也顯示第一個正式生產用途相對有限。會議擷取與摘要能夠在限制代理權限的同時提供即時價值,相較於會修改紀錄、發送外部通訊或做出商業決策的工作流程更為保守。
對開發者而言,MRH Trowe 的做法凸顯了將身分與基礎設施視為代理設計的一部分,而不是在開發完成後才加入的功能的重要性。將經驗證的使用者情境從介面傳遞到代理,可以讓存取控制更明確;而會話隔離則處理了多使用者部署中的另一層風險。
這個架構也將實驗與正式營運分開。開發者可以使用 Strands Agents 建立工作流程,而不必自行實作所有底層基礎設施;AgentCore 則提供受管理的執行環境與按使用量計費模式。LibreChat 為業務端提供熟悉的前端介面,讓經紀商不必將商業聊天產品當成唯一介面。
對企業買家而言,使用多個模型可降低對單一模型供應商的依賴,並讓團隊依任務選擇合適的模型。token 預算提供了基本的成本控制機制,但不能取代對品質、延遲、資料存取與代理失敗的監控。隨著代理從摘要走向保險系統中的實際操作,這些營運問題將更加重要。
這項部署也為受監管環境中的 企業 AI 提供了一條實際路徑:先從有用、內部受限且可稽核的工作流程開始;落實使用者層級權限;將處理維持在核准區域內;並透過中央平台擴展存取,而不是依賴各團隊無管理的工具。
下一個訊號將是 MRH Trowe 是否會超越會議紀錄,擴展到擷取或更新保險與客戶紀錄的工作流程。這類使用案例將測試當代理能執行具後果的動作時,平台的身分控制與會話隔離是否仍然足夠。
採用品質與報告中的員工數一樣重要。關於實際使用率、任務完成率、人類審核、錯誤處理與節省時間的後續證據,會比第一個月的存取數字更能清楚呈現商業價值。
成本報告也是另一個需要觀察的領域。約 40% 的節省取決於適當規模調整與排程擴縮,因此優化後的實際支出可幫助買家評估,隨著使用成長,按用量計費的基礎設施是否仍可預測。若能提供更多關於模型選擇與區域可用性的細節,也能更清楚說明這個架構在不同工作負載與司法管轄區間的可攜性。
MRH Trowe 的部署之所以引人注目,不只是因為它把聊天機器人放到員工面前,而是因為它將自助式 AI 視為受治理的內部平台。員工綁定權限、私有連線、區域處理與受控代理執行的組合,回應了多個讓受監管組織從實驗走向正式生產時猶豫不決的原因。
這份證據仍然是一份供應商案例研究,因此其採用與成本主張需要獨立驗證。即使如此,這個設計仍指出金融服務 AI 一種合理的短期模式:先從範圍狹窄、可稽核的代理開始,更廣泛的自動化則取決於已證明的可靠性、清楚的授權邊界,以及企業能夠衡量的營運成本。