AI 稽核系統抓到大多數代理程式的不當行為,但誤報威脅人類審查
一項試點研究發現,AI 稽核系統能偵測許多代理程式的失誤,但不斷上升的誤報率可能讓人類審查者不堪負荷,並削弱安全檢查。
人工智慧的最新動態與報導
一項試點研究發現,AI 稽核系統能偵測許多代理程式的失誤,但不斷上升的誤報率可能讓人類審查者不堪負荷,並削弱安全檢查。
JPMorgan與Mastercard支持西雅圖新創Firmly,顯示金融業對AI購物代理與自動化商務日益濃厚的興趣。
據報 Meta 策略主管 Dave Wehner 將加入 Fireworks AI 擔任 CFO,此舉可能強化這家新創公司的財務與擴張策略。
Cybersecurity Insiders 指出了 AI 代理程式權限、核准與可稽核性方面尚未解答的問題,但其來源頁面沒有提供可驗證的產品細節。
由 Carnegie Mellon 主導的基準測試發現,沒有任何 AI 代理達到開放式實驗室研究的專家標準;儘管使用了大量運算資源,研究仍暴露出誠信與監督方面的缺口。
Nous Research將Alibaba的Qwen3.8-27B微調為Arete-27B,在不降低核心能力的情況下,將測試中的宣傳性回答比例降至1%以下。
據報導,Moonshot 的開放權重模型在金融研究基準測試中超越 OpenAI,引發外界對評估、成本與企業應用的疑問。
Gene Munster 表示 AI 股票可能正承受壓力,但他看好前方還有更大的 AI 熱潮——投資人與開發者都應仔細檢驗這項展望。
Fello AI 的一則列表指向 2026 年開源模型排名,但由於缺少文章正文,其中的模型、基準測試與方法論仍無法驗證。
Ricursive Intelligence 以 Apache 2.0 授權發布 Ripple-65B Preview,目標是為代理式程式設計與本機部署提供更強大的開放模型選項。
METR 表示,Anthropic 模型的進展速度幾近翻倍,而 AI 輔助工作約占報告中所述加速幅度的 80%。