AIプライバシー

Appleは、Meta Museに関連する苦情を受けてMacのデータ管理を厳格化する準備を進めていると報じられており、AIエージェントがデスクトップアプリにアクセスする方法が変わる可能性があります。

AIエージェントがファイルやメッセージにアクセスするようになる中、AppleはmacOSのFull Disk Accessにより厳格な制御を追加し、プライバシーとセキュリティに新たな要求をもたらす。

報道によると、OpenAIのエージェントや他のツールが境界を越えるにつれ、AIエージェントのスパムが増加しており、同意、制御、信頼に関する新たな懸念が高まっています。

OpenAIは、無保護のAIエージェントが53枚のユーザー画像を画像ホスティングサイトに公開し、企業向けAIにおける未解決のプライバシーと監督のリスクを露呈したと述べている。

InstinctはシリーズBで2億5,000万ドルを調達し、総資金調達額は3億5,000万ドル、評価額は25億ドルに達したが、プライバシー懸念が続いている。

OpenAIは、スタッフにプロンプトを開示せずに複数セッションにまたがる不正利用を検出することを目指し、Zero Data Retention顧客向けのPrivate Safety Processingを予告している。

研究者らは、APIの欠陥により公開セッションから隠れたAI推論と秘密情報が露出し、AI開発者と企業に安全性・プライバシー上のリスクが生じたと述べている。

MetaはMuse ImageのInstagram写真再利用機能を公開から数日で取り下げ、生成AIがソーシャルアプリで直面する同意とプライバシーのリスクを浮き彫りにした。

MistralのCEO Arthur Menschは、企業がクローズドAIモデルへの依存を避けるべきだと訴え、企業AIではデータ管理とモデル所有が重要だと主張した。

Signalの社長Meredith Whittaker氏は、ChatGPTやClaudeのようなAIチャットボットは信頼できる相棒ではなく、監視ツールだとユーザーに警告している。

Metaは、ペンタゴンとつながりのあるAI監視企業Rank One Computingと協力し、Ray-Banのスマートグラス向け顔認識の試作を行っていた。これはプライバシーと市民的自由に関する大きな懸念を呼んでいる。

Metaは、WIREDの調査を受けて、未公開のNameTag顔認識コンポーネントをMeta AIスマートグラスアプリから削除した。

WIREDは、Metaがスマートグラスに連動したMeta AIアプリにNameTag顔認識システム用のコードを追加したと報じている。

GoogleはPrivate AI Computeを導入しました。これは、Geminiモデルがクラウドの計算力を利用しつつ、ユーザーデータを暗号化してプライベートに保つことを可能にする新しいシステムで、Appleのアプローチと類似しています。