AI News

各組織正從測試 AI 代理人,走向將其嵌入商業營運,但一份新的 MIT Technology Review Insights 報告認為,許多企業尚未為這些代理人準備好所需的資料系統。該報告於 8 月 12 日發布,並以對 300 位資料與科技高階主管的調查為基礎,指出企業資訊的有限存取與舊有基礎架構,是可信且快速決策的主要障礙。

這些發現顯示,代理式 AI 下一個瓶頸,可能與模型能力相比,更取決於代理人是否能接觸到正確的資料、理解其商業脈絡,並安全地與工作發生的系統互動。這對於規劃超越回答問題、而進一步採取營運行動的部署之產品團隊與企業買家而言,至關重要。

調查發現了什麼

根據該報告,AI 系統平均可存取受調查企業資料中的 45%。在被歸類為「資料落後者」的群體中,存取比例降至 30% 或更低;而「資料領先者」則可讓 AI 系統存取超過 70% 的資料。

報告將這種差異與對AI 代理人的信任聯繫起來。只有約一半受訪者表示,他們信任代理人的決策會是準確且相關的;然而,報告指出,在資料領先者中,100% 的受訪者表達了這種信任。

報告也指出規模與速度上的落差。66% 的資料落後者表示,舊有資料系統限制了他們擴大 AI 代理人規模的能力,而 68% 表示這些系統阻止代理人快速做出決策。相較之下,資料領先者中只有 8% 報告了任一項限制。

這些數字顯示,資料存取是一項營運需求,而非背景中的基礎架構問題。無法取得最新供應鏈紀錄、銷售點資訊或人力資源資料的代理人,或許能產生看似合理的答案,卻仍無法可靠地完成工作流程。

為什麼舊有系統很重要

傳統企業資料環境一般是為應用程式、報表與具備明確存取路徑的人類使用者所設計。AI 代理人帶來不同需求:它們可能需要結合結構化紀錄與非結構化文件、在脈絡中解讀資訊,並在連接即時營運系統的情況下做出決策。

報告指出,即使是相對較新的舊有系統,在代理人需要這類存取時,也可能造成摩擦。資料可能分散在彼此不相容的平台上、受不一致的權限機制管理,或儲存時缺少代理人區分權威紀錄與過時或不完整紀錄所需的業務定義。

這種區別對企業 AI 很重要。若未改善資料品質、權限、來源血緣與脈絡,就讓代理人擁有更廣泛的存取權,可能會增加它能採取的行動數量,卻不會讓這些行動更可靠。對開發者而言,問題不只是把模型接到更多來源,而是要建立對目前、可解讀且適合特定任務資訊的受控存取。

報告將改善對結構化與非結構化資料的存取,列為擴展代理人的首要措施。它也強調,更強健、納入商業脈絡的資料治理,以及更高程度的資料管理自動化。

主張的證據與限制

核心證據來自 MIT Technology Review Insights 報告中所描述的 300 位資料與科技高階主管調查。因此,資料領先者與資料落後者的分類,以及有關存取、信任與系統限制的百分比,都是調查結果,而非經獨立稽核的企業部署量測。

報告也引用 Gartner 的預測,稱 AI 代理人到 2027 年可能協助或自動化 50% 的商業決策。這是一項預測,而非既定結果;所提供的材料並未說明其方法或假設。

該出版物附有一項重要揭露:內容由 MIT Technology Review 的客製內容部門 Insights 製作,而非由 MIT Technology Review 的編輯團隊撰寫。報告指出,調查與撰文由人類研究員、寫作者、編輯、分析師與插畫家完成,任何 AI 工具僅限於受人類審閱的次級製作流程。

這項揭露不會使調查失效,但意味著讀者應將最強烈的比較與結論視為與客製報告相關、且有研究支持的內容。來源並未提供獨立個案研究、技術稽核,或具名的企業部署來驗證資料領先者是否在特定工作流程中達成了報告所述成果。

對建構者與企業買家的影響

對 AI 建構者而言,這些發現將注意力轉向模型周邊的系統。一個用於採購、客戶營運、財務或員工管理的代理人,不僅需要檢索能力,還需要存取政策、新鮮紀錄、清楚的來源優先順序、錯誤處理,以及說明哪些資料塑造了決策的方式。

產品團隊也應定義當資訊缺失或互相矛盾時,代理人可被允許做什麼。暫停以供人工審查的系統可能較慢,但往往比以未經支持的假設填補空白的系統更可靠。監控不應只涵蓋模型回應,也應包括工具呼叫、資料新鮮度、權限失敗與下游影響。

對企業買家而言,該報告提醒他們在擴大代理人試點前,先評估資料就緒度。問題應包括:提議中的系統是否能連接營運系統而不建立未受控的敏感資料副本、是否可依角色與任務限制存取,以及商業使用者是否能稽核代理人的決策。

這也為基礎架構供應商創造了競爭機會。能夠統一資料存取、自動化中繼資料管理、落實治理並將代理人連接到營運系統的工具,可能和模型選擇一樣,成為部署經濟的重要因素。不過,單靠更廣泛的連結並不能保證更好的結果;可靠性取決於所曝光資訊的品質與意義。

接下來要觀察什麼

第一個訊號是企業是否從孤立試點,轉向可跨多個系統運作的代理人。更廣泛的部署應能顯示,資料存取在實務上是否改善,或組織是否仍將代理人限制在狹窄、低風險的任務上。

第二個訊號,是針對代理人資料就緒度出現獨立基準測試。實用指標可包括代理人可存取的相關資料比例、資料新鮮度、權限準確性、缺失資訊的恢復能力,以及需要人工修正的行動比例。

買家也應觀察供應商如何處理治理與可稽核性。當供應商揭露失敗率、升級處理行為,以及在真實工作流程中的表現時,對可信代理人的主張會更有意義,而不只是依賴模型基準或採用調查。

最後,報告引用的 Gartner 預測必須與實際的商業決策自動化相互驗證。若採用擴大,卻沒有相應提升信任與控管,企業可能會廣泛使用代理人,卻仍將其排除在價值最高的決策之外。

Creati.ai 觀點

該報告的核心訊息作為部署警示是可信的:代理人無法對自己無法接觸或理解的資訊可靠行動。但其中的數字應被視為調查訊號,而非證明資料領先者已解決企業 AI 的證據。對建構者來說,更有用的啟示是,將資料存取、治理與系統整合視為代理人產品本身的一部分。

市場很可能會分化為兩類供應商:一類只是讓代理人更容易啟動,另一類則讓其行動可被衡量、可回復且可追責。對企業團隊而言,實際測試很簡單:在詢問代理人是否夠聰明之前,先確認它是否擁有可被信任的資料與受控權限,以便採取行動。

精選

企業 AI 代理人正遭遇資料就緒瓶頸

MIT Technology Review 的一項調查指出,企業 AI 代理人仍受資料存取與舊有系統限制,進而威脅信任與規模化。