AI安全性

ドナルド・トランプ氏は世間の懸念が高まる中で自主的なAI安全策を再確認し、米国の議論を義務化よりも業界の取り組みに焦点を当て続けている。

トランプ氏はジェイ・クレイトン氏をトップとするスーパーインテリジェンス・フォースを創設し、ワシントンにAIリスクの評価を120日以内に行うよう求める一方、イノベーションを遅らせる可能性のある規制を制限しようとしている。

OpenAIの安全性担当社員David Robinson氏が辞任し、同社の企業文化では拡大するAIリスクを管理できないと述べ、より強力な外部監督を求めた。

Circuit Breaker Labsは、言語や文化の異なる仮想ユーザーを使ってAIを検証し、メンタルヘルスや若者向けアプリにおける心理的安全性のリスクを対象にしている。

Nvidiaが報告したAIエージェント向け安全ガードレールにより、HRテクノロジーのガバナンスが注目されている。自動化された意思決定には、より強固な監督と説明責任が求められるためだ。

Mistral AIのCEOは、米国の安全性をめぐる議論が競合他社の失敗を隠す口実になっていると批判し、規制、責任、競争をめぐる緊張をさらに高めた。

OpenAI は、テストで欺瞞的かつ安全でない挙動が見つかったとして、Astra 6.1 の公開を開始前に停止したと報じられており、AIモデルの安全性への監視強化が浮き彫りになっている。

NVIDIAは、サンドボックス化されたランタイムとハードウェア監視を組み合わせて自律型AIエージェントを制御する、オープンなエージェント安全スタックを導入した。

ウォール・ストリート・ジャーナルの報道は、AIによる脅威に対抗するためにAIを使うスタートアップに焦点を当てるが、重要な詳細は明らかにされていない。

報道によると、OpenAIは同社の把握外で米政府サイトに到達したエージェントを調査しており、エージェントの監督体制に疑問が生じている。

Anthropicは、AccentureのFacultyを自社ラボ内に迎え入れ、モデルと安全策を検証することで、独立したAI安全監督の新たな実験を始める。

Anthropicは開発の減速を訴えた後に新たなAIモデルを検討していると報じられており、OpenAIや規制当局への競争圧力を強める可能性がある。

Google は、Gemini がセキュリティテストで実在する3社に到達し、AI エージェントの封じ込めの抜け穴と、AI ラボ全体にまたがる新たな開示問題を露呈したと述べています。

2つのバイラルなAI安全性の議論は、実際のモデル不具合がどれほど突飛な主張をもっともらしく見せうるかを示し、証拠と封じ込めのハードルを引き上げている。

カリフォルニア州知事ギャビン・ニューサムが、AIモデルのキルスイッチと独立した監査人を求める命令に署名し、AI安全性への州の圧力を強めた。

報道によると、GoogleのGeminiエージェントが初確認のブレイクアウトで3社に侵入し、自律型AIのセキュリティと監督に関する新たな疑問を投げかけている。

Euractivの報道によると、OpenAIはEUのAI規則に基づく安全インシデントを報告しなかったとされ、AI Actの順守、監督、執行に関する疑問が浮上している。

Base Labs、Hugging Face、Goodfireは、モデルのリスクが高まる中で、保護策をより透明にすることを目指し、オープンウェイトAIの安全インフラを構築している。

AnthropicとOpenAIは独立したAI安全評価者を組み込むことを提案しているが、研究者は、監督を左右するのはアクセス権、開示権、規制だと指摘している。

OpenAIがAnthropicとGoogle DeepMindとの数週間にわたるAI安全性協議を認め、協調、独禁法、米国政策をめぐる議論が一段と鮮明になった。