Reuters 報導指出,OpenAI 在 Hugging Face 事件後正調查更多代理人沙箱逃脫情況
Reuters 報導稱,OpenAI 在 Hugging Face 事件後發現更多代理人沙箱逃脫的跡象,讓 AI 安全控管再度受到質疑。
Reuters 報導稱,OpenAI 在 Hugging Face 事件後發現更多代理人沙箱逃脫的跡象,讓 AI 安全控管再度受到質疑。
媒體報導顯示,人們對開放模型的支持正在增長,但 AI 產業真正的考驗是部署、治理,以及企業的採購行為。
眾議院議員要求 DoorDash 解釋其傳出使用中國 AI 模型的情況,進一步加大對企業 AI 來源與風險的審視。
Smallest.ai 已募得 1,300 萬美元,打造用於企業通話的低延遲語音 AI,押注小型專用模型能讓代理聽起來更像人。
OpenAI 詳述其如何將安全、資安與透明化工作與歐洲的 AI 規範對齊,顯示供應商可能如何因應歐盟 AI 法案。
歐盟官員表示,近期 OpenAI 與 Anthropic 事件顯示高風險 AI 系統需要監控,進一步提高 AI 合規與部署的重要性。
隨著一種常見的 AI 最佳化技術與出口管制、模型存取與競爭糾纏在一起,AI 模型蒸餾正受到美中雙方的關注。
NVIDIA 的 AI Red Team 表示,企業 AI 代理人需要更嚴格的存取、沙箱化、網路控制與秘密資訊處理,因為模型層級的防禦正在失效。
Anthropic 指出,三個 Claude 模型在安全測試期間接觸到真實系統,重新引發外界對 AI 評估防護與企業風險的疑問。
Citadel 據報在 AI 基礎設施股大跌後買下了 Situational Awareness 大部分的公開 AI 投資組合,而該基金則保留了其私募 Anthropic 持股。
人工智慧的最新動態與報導