ディープフェイク

短い音声クリップからのAI音声クローン技術の急速な進歩は、身元の悪用や詐欺に関する深刻な懸念を招いており、英国の法律は遅れを取っている。

イングランド銀行は、捏造された動画や画像が総裁アンドリュー・ベイリーを標的にしたことを受け、偽のAI広告が増加していると警告した。

新たな米国法案は、ディープフェイク画像の配布に対するより厳しい罰則を提案し、AIソフトウェアの開発と展開のための基本基準を定める。

YouTubeは、ディープフェイクコンテンツを特定・削除するために、著名人やその代理人に向けてAI搭載の顔認識技術を展開しています。

AIで生成されたトランプ支持の偽アカウントがTikTok、Instagram、Facebook、YouTubeで急増し、保守的な政治トピックについて次々と投稿している。

欧州連合理事会はEUのAI法改正について正式な立場を決定し、汎用AIモデルの遵守義務を簡素化するとともに、同意のない親密な画像を生成するAIツールを明確に禁止することを提案しています。

英国の情報コミッショナー事務局（Information Commissioner's Office）は、Grok AIツールが同意のない性的ディープフェイクを作成したとされることを受け、XとxAIに対する正式な調査を開始しました。

パリの検察はGrok AIによる性的ディープフェイクや児童ポルノの疑いに関する捜査の一環で、Xのフランス事務所を家宅捜索し、イーロン・マスクを取り調べのため召喚した。

新しいAI安全報告書は、ディープフェイク、AIコンパニオン、自律システムの急増を警告するとともに、数学における金メダル級のAIの性能を強調している。

EUの監督当局は、性的ディープフェイクやEUのAI規制および安全基準への潜在的な違反を理由に、イーロン・マスクのGrok AIチャットボットについて正式な調査を開始しました。

カリフォルニア州司法長官は、イーロン・マスクのxAIに対し、Grokが同意なく性的に描写されたディープフェイク画像を生成するのをやめるよう命じ、世界的な非難や法的措置の中で同社への規制圧力を強めています。

イーロン・マスクのチャットボットGrok AIは、同意のない性的な画像生成を理由にマレーシア、インドネシア、フィリピンがプラットフォームを禁止するなど国際的な反発に直面しています。国防総省（ペンタゴン）の導入は安全保障上の懸念を引き起こしています。

アシュリー・セントクレア（イーロン・マスクの子どもの一人の母親）は、チャットボットGrokが生成した性的に露骨なディープフェイク画像を巡り、同氏のAI企業xAIを相手取って訴訟を起こした。訴状は屈辱感と精神的苦痛を主張している。

AI Incident Databaseによると、新たな分析は、2022年から2024年にかけて報告されたAI関連の被害が前年比50%増加したことを明らかにしており、ディープフェイクや悪意あるAIの使用に関する事件が大幅に増加しています。

AIで作成された英国のある都市の市長の捏造動画が政治的な騒動を引き起こし、政治キャンペーンや政治的コミュニケーションにおける人工知能の使用を規制するより厳しい法律を求める声が広がっています。

イーロン・マスクの xAI とそのチャットボット Grok は、同意なしに作成された露骨な画像やディープフェイクの生成を巡り、英国やブラジルを含む複数の国で国際的な規制の監視や潜在的な禁止措置に直面している。