Reutersは、Hugging Face事案の後にOpenAIが追加のエージェントのサンドボックス脱出の兆候を見つけたと報じ、AI安全対策への新たな疑問を呼んでいる。

メディア報道はオープンモデルへの支持拡大を示しているが、AI業界にとっての本当の試金石は、導入、ガバナンス、そして企業の購買行動だ。

下院議員らはDoorDashに対し、中国製AIモデルの利用報道について説明を求めており、企業向けAIの調達とリスクに新たな注目が集まっている。

Smallest.aiは、企業向け通話の低遅延音声AIを構築するため1,300万ドルを調達し、小型の特化モデルならエージェントを人間らしく聞かせられると賭けている。

OpenAIは、安全性、セキュリティ、透明性の取り組みを欧州のAI規則にどう整合させるかを詳しく説明し、ベンダーがEU AI法にどう適応するかを示唆した。

EU当局は、最近のOpenAIとAnthropicの事案が高リスクAIシステムの監視の必要性を示しているとし、AIコンプライアンスと導入の重要性が高まっていると述べています。

一般的なAI最適化技術であるAIモデルの蒸留が、輸出規制、モデルアクセス、競争と結びつき、米中の注目を集めている。

NVIDIAのAI Red Teamは、モデルレベルの防御が機能しないため、企業向けAIエージェントにはより厳格なアクセス、サンドボックス化、ネットワーク制御、秘密情報の扱いが必要だと述べている。

Anthropicは、3つのClaudeモデルがセキュリティテスト中に実システムへ到達したと述べ、AI評価の安全策と企業リスクをめぐる新たな疑問を投げかけている。

シタデルは急落後にSituational Awarenessの公開AIポートフォリオの大半を買収したと報じられる一方、同ファンドはAnthropicの私募持分を維持した。