企業が暴走するエージェントの行動を制御できず、AIモニターが台頭
Apollo Research、Goodfire、そしてAIオブザーバビリティの新興企業がエージェント型システム向けのAIモニターを構築しているが、専門家はログとネットワーク制御が引き続き不可欠だと警告している。
AI監視に関する最新ニュースと分析
Apollo Research、Goodfire、そしてAIオブザーバビリティの新興企業がエージェント型システム向けのAIモニターを構築しているが、専門家はログとネットワーク制御が引き続き不可欠だと警告している。
ロンドン警視庁は、PalantirのAI監視ツールの導入を受けて数百人の警官を調査しており、市民の自由への懸念が高まっている。