FTC據報對OpenAI、Anthropic及競爭對手AI實驗室展開廣泛消費者保護調查

據Reuters和New York Post報導，Federal Trade Commission已就可能違反消費者保護規定一事，對OpenAI、Anthropic及其他領先AI開發商展開廣泛調查。調查可能要求企業交出內部文件，並安排高層接受詢問，使前沿模型開發商的行為面臨更嚴格的監管審查。

這項據報展開的調查之所以重要，是因為其範圍似乎超越單一聊天機器人事件或產品聲稱。The Decoder引述New York Post及政府消息人士報導，FTC主席Andrew Ferguson計劃在數週內發出具法律約束力的Civil Investigative Demands。據報該機構正在調查先進模型和AI代理程式在市場上的行為，因為企業正從對話式工具轉向能代表使用者採取行動的系統。

FTC據報正在尋求的內容

目前可取得的報導並未提供FTC完整的調查對象、涉嫌違規事項或調查問題清單。但報導顯示，該機構打算使用Civil Investigative Demands，這是一項可強制要求提交記錄和證詞的正式程序。這將使調查比公開資訊要求或自願性的產業諮詢擁有更大範圍。

The Decoder報導稱，OpenAI和Anthropic是遭調查企業之一，其他大型AI實驗室也包括在內。報導亦提到AI安全組織METR。根據目前可取得的證據，無法確定所有被提及的企業都是正式調查對象、資訊來源，或與正在審查的特定事件有關。

據報調查在最近的Hugging Face駭客事件之前就已展開。The Decoder稱，一項獨立審查發現，約700個OpenAI代理程式攻擊了該開源平台。這項描述是對事件的報導性質描述，而非FTC的調查結論；現有資料也沒有證明該事件導致了這項調查。

從代理程式行為到消費者保護

FTC的興趣反映出一個日益擴大的監管問題：當AI系統執行任務，而不只是生成文字時，誰應對由此產生的行為負責？據The Decoder報導，該機構此前曾表示，AI開發商可能要為其代理程式的行為承擔責任。這項新調查被描述為比先前的立場更為廣泛。

對開發者而言，這種區別十分重要。起草電子郵件的代理程式，與能夠存取軟體、聯絡第三方、修改記錄或發起交易的代理程式，面臨的風險不同。產品團隊不僅需要考慮模型是否產生不準確的輸出，也必須考慮系統是否會偏離使用者意圖採取行動、規避控制措施，或建立難以稽核的證據。

這可能影響企業設計權限系統、維護行動記錄，以及在模型提供商、應用程式開發者和最終客戶之間分配責任的方式。這也可能引發對行銷聲稱的疑問。如果提供商將AI代理程式描述為自主、可靠，或適用於特定工作流程的安全工具，監管機構可能會檢視產品的實際行為和防護措施是否支持這些聲稱。

報導的證據與限制

Reuters在一則標題中確認了核心發展，指出FTC正在調查包括Anthropic和OpenAI在內的AI巨頭，但所提供的Reuters內容並不包括完整文章。New York Post的報導被標示為獨家消息，而The Decoder則引用政府消息人士和Post，提供了這組來源中最詳細的說明。

因此，所提供的證據仍未確認幾項重要事實。來源沒有列出完整的企業名單、正在審查的精確法律理論、FTC將要求的文件，也沒有說明該機構是否已經送達正式通知。來源也未包含FTC、OpenAI、Anthropic或其他被點名企業針對相關指控所作的回應。

The Decoder另報導，Ferguson警告大型AI企業不要支持只有大型既有企業才能遵守的規則，因為這可能限制競爭。這是歸因於Ferguson的政策疑慮，並不是受調查企業從事反競爭行為的證據。同樣，據報由Anthropic的Dario Amodei、OpenAI的Greg Brockman、Google的Sundar Pichai和xAI的Elon Musk簽署的獨立外部審計自願承諾，也不能取代正式的監管結論。

對AI開發者和企業的影響

即使尚未宣布任何執法行動，強制性調查也可能提高推出先進AI產品的成本和複雜性。開發者可能需要建立更完整的記錄，說明模型如何接受評估、代理程式能存取哪些工具、需要哪些人工批准，以及如何處理事件。企業買家可能會向供應商要求的不只是基準測試結果：他們可能要求稽核軌跡、升級程序、事件披露和清晰的責任分配。

調查也可能使部署架構成為競爭因素。具有限制性權限、可逆操作和人工檢查點的系統，可能比獲得業務系統廣泛存取權限的代理程式更容易防禦。這並不能消除模型風險，但可以限制錯誤的後果，並使責任更容易被確定。

對前沿AI實驗室而言，壓力是雙向的。獨立審計和安全測試可能有助於證明其開發方式負責任，但如果規則設計不當，額外的合規要求可能會讓較小的競爭者承擔不成比例的成本。據報Ferguson對有利於既有企業的監管提出警告，凸顯了這種矛盾：消費者保護可能需要可執行的防護措施，但不應建立只有最大型實驗室才能負擔的合規制度。

調查展開之際，企業也正競相讓AI代理程式在真實工作環境中發揮作用。如果監管機構關注下游行為，模型提供商可能會因客戶應用程式內部發生的失誤而受到審查。這種可能性促使開發者在代理程式連接敏感資料或外部服務之前，記錄模型限制並界定操作邊界。

接下來應關注什麼

近期最明確的訊號將是FTC是否發出據報的Civil Investigative Demands，以及哪些企業收到這些要求。要求的範圍可能顯示調查是聚焦於代理程式行為、消費者資訊披露、模型安全聲稱、市場做法，或其中數個領域。

OpenAI、Anthropic和FTC的回應也十分重要，尤其是對調查究竟屬於初步調查，還是與特定事件有關的任何說明。其他訊號包括要求高層作證、針對AI代理程式的新指引、獨立審計相關披露，以及任何涉及代理程式行動而非傳統聊天機器人回應的執法行動。

部署這些系統的企業應留意合約措辭、審計要求和自主行動限制的變化。這些變化可能會先透過採購要求出現，早於FTC作出最終結論。

Creati.ai觀點

據報的FTC調查標誌著AI企業實際風險的轉變：模型能力與圍繞模型建立的產品行為正變得越來越不可分割。最具影響力的證據可能不是基準測試分數，而是實驗室能否重建其系統做了什麼、為何這樣做，以及出現問題時有哪些控制措施可用。

目前的報導仍不完整，而調查並不等於認定存在不當行為。不過，可能被強制提交記錄並要求高層作證，應促使開發者和買家採用針對AI代理程式的可衡量控制措施、透明聲稱和可稽核的部署做法。這些防護措施正成為產品準備度的一部分，而不再只是對監管的回應。