Anthropic AI 代理進入一場虛擬戰爭——而他們的聊天紀錄引發了新的安全疑慮
有報導稱 Anthropic AI 代理發動了一場模擬的虛擬戰爭,這重新引發了人們對自主行為、監督與代理式 AI 安全性的疑問。
有報導稱 Anthropic AI 代理發動了一場模擬的虛擬戰爭,這重新引發了人們對自主行為、監督與代理式 AI 安全性的疑問。
Anthropic 的多代理測試發現,彼此衝突的 AI 代理可能會破壞、串通並升級衝突,凸顯代理式系統在安全檢查上的缺口。
OneAdvanced在AWS上打造了英國主權AI平台,搭配50多個代理與自架Llama模型,鎖定受監管客戶與英國資料管控需求。
AWS 詳細說明了 Thrad.ai 如何運用 Strands Agents 與 Amazon Bedrock 建立多代理潛在客戶開發工作流程,並強調企業 AI 團隊在編排上的取捨。
Anthropic 進行了一項為期一週的內部市場測試,共有 69 個 AI 代理;能力更強的模型始終能談判出更好的結果,而較弱模型的使用者始終沒有察覺。
DeepMind 的研究人員提出一種智慧型委派框架,強調對 AI 代理進行動態能力評估與自適應任務重新分配。
多智能體系統 的最新新聞與分析