企業 AI 代理人因缺乏組織知識而陷入停滯

MIT Technology Review Insights 表示，許多企業 AI 代理人因缺乏解讀資料並可靠採取行動所需的組織情境，而無法超越試點階段。一份以 300 名資料、AI 與科技主管調查為基礎的新報告發現，平均只有約 34% 的代理型 AI 專案能進入正式生產環境。

這項發現指出的問題，比單純取得更多文件或更大型語言模型更深層。代理人需要了解資訊在特定企業內代表的意義、事件彼此之間的關係，以及哪些程序規範一項決策。缺乏這種情境時，組織可能擁有能運作的展示，但沒有願意信任並交付正式生產任務的系統。

正式生產的落差也是知識落差

報告將企業知識分為三項廣泛能力：描述資料意義與關係的語意知識；記錄相關過去事件的情節記憶；以及掌握工作應如何執行的程序知識。

MIT Technology Review Insights 報告指出，在這些領域具備更強能力的組織，更可能推進代理人專案。報告認定為正式生產領導者的一組組織，平均有 61% 的代理型 AI 專案超越試點階段；相較之下，所有受訪組織的平均比例約為三分之一。

報告並未證明更佳的知識能力會直接造成更高的正式生產率，只指出兩者之間存在密切關係。這項區別很重要，因為研究是以主管回覆為基礎，而不是對已部署系統進行獨立稽核。

調查也發現，資料分散是擴大代理人存取組織知識時最常被提及的障礙，55% 的受訪者如此表示。彼此斷開的應用程式與不一致的資料結構，使代理人更難形成對客戶、流程、風險或商業事件的完整認識。

在正式生產領導者中，安全與隱私疑慮更為突出，該群組中有 72% 的人提到這一點。這可能表示，在部署進展較大的組織中，當代理人取得更廣泛的敏感資訊存取權時，開始遇到由此產生的治理問題。

為何企業情境對代理人很重要

傳統搜尋系統可以返回相關文件，卻不理解該文件如何融入企業的營運規則。若代理人被期待推薦行動方案或執行工作流程，它需要更多能力。它必須辨識具權威性的資訊、調和互相衝突的紀錄、記住已經發生的事情，並遵循核准的程序。

這正是報告區分資料與知識的地方。資料可以顯示某個帳戶未繳款，或某項零件缺貨。知識則能幫助代理人判斷該帳戶是否受特殊合約約束、庫存紀錄是否為最新狀態，以及組織在該情況下允許採取什麼行動。

這個情境問題會影響實際工作流程中 AI 代理人 的可靠性。連接到分散系統的代理人可能產生看似合理的答案，卻忽略儲存在另一個應用程式中的例外情況。在客戶支援、財務、採購或營運環境中，這種失誤可能比單純無法回答造成更大損害。

報告的發現也解釋了為何僅靠檢索增強生成，可能無法解決所有部署問題。檢索可以改善提供給模型的資訊，但組織仍需要針對來源品質、存取權限、資料關係，以及代理人獲准採取的行動順序制定規則。

企業正在建立知識層

受訪主管預期，代理人決策品質最大的提升將來自強化企業資料與 AI 系統之間的結構性連結。報告將此描述為知識層：一種組織基礎，讓代理人能存取可用且具情境脈絡的資訊，而不是孤立的資料儲存區。

報告指出的投資優先事項包括資料匯入管線、AI 就緒 API、檢索增強生成、評估代理人與知識圖譜。這些技術分別處理問題的不同部分。管線可以準備供使用的資訊，API 可以以一致方式公開資料與業務功能，而知識圖譜則能表示僅靠非結構化文字難以推論的關係。

報告將這些領域呈現為組織優先事項與專家建議，而不是證明某一種架構適用於所有企業。舉例來說，知識圖譜可能有助於對應實體與依賴關係，但也需要持續維護定義與關係。同樣地，AI 就緒 API 可以改善存取，卻仍可能讓代理人接觸到不完整或治理不佳的來源資料。

對建構者而言，這意味著代理人開發日益包含資料工程、後設資料管理、存取控制與工作流程設計。模型仍然重要，但只是正式生產系統的一個組成部分。

這些發現對建構者與買方的意義

評估 AI 代理人的產品團隊，不應只衡量代理人是否能完成腳本化展示。他們應測試代理人是否選擇正確來源、處理相互衝突的紀錄、遵守權限、記住相關事件，並解釋為何採取特定行動。

評估代理人可能會在此過程中變得有用，尤其適合根據企業政策與預期結果測試大量決策。不過，自動化評估應補充而非取代對高影響工作流程的人工作業審查。原始資料並未提供這些評估系統準確度或成熟度的詳細證據。

企業買方也應將資料分散視為部署限制，而不是後台作業上的不便。將代理人連接到更多系統可以擴大其觸及範圍，但也會增加故障點的數量，以及潛在隱私事件的影響範圍。報告強調正式生產領導者對安全的重視，這表示成功部署需要讓存取政策與可稽核性隨著能力同步成熟。

對創辦人與平台供應商而言，市場訊號是，需求可能從獨立的代理人介面轉向讓企業知識可用的基礎設施。整合檢索、權限、記憶、評估與工作流程執行的產品，可能比那些在缺乏可靠組織情境下承諾自主性的系統，更能解決買方眼前的問題。

接下來值得關注的事項

接下來重要的訊號將包括：企業在投資知識層後是否回報更高的正式生產率，以及這些提升是否能在受監管與資料密集型產業中持續。買方應尋找可獨立驗證的部署證據，而非只看試點數量或關於採用率的廣泛說法。

同樣重要的是追蹤供應商如何定義 AI 就緒 API、如何維持知識圖譜的更新，以及檢索系統是否能在多個企業應用程式之間保留權限。安全事件、評估失敗，以及人工審查的可量化減少，將比展示本身更能揭示正式生產準備程度。

這份報告由 MIT Technology Review 的客製化內容部門 Insights 製作，而非由其編輯部門製作。因此，其調查結果可作為了解主管優先事項的方向性觀察，但應被視為以研究為基礎的主張，而非確定性的市場衡量。

Creati.ai 的觀點

核心教訓很實際：企業代理人不會僅因為接收更多資料就變得可靠。他們需要持續維護對業務意義、歷史、權限與程序的理解。這使知識基礎設施成為 AI 產品技術堆疊的核心部分，而不是選定模型後再加上的可選強化功能。

最強的部署可能會是將情境視為可衡量基礎設施的部署。能夠展示代理人使用了哪些來源、受到哪些規則限制，以及其決策如何被評估的團隊，將比只依賴流暢輸出的團隊更清楚地從試點走向正式生產。