競争的インテリジェンスの隠れた代償：「カンヌ」プロジェクトの内部

競争が激化する状況下で、企業は生成 AI（Generative AI）開発の優位性を得るために、データ収集の境界を押し広げています。最近、Meta社内の秘密プロジェクト「カンヌ（Cannes）」の存在が明らかになり、企業インテリジェンス、ユーザーの安全性、そして大規模言語モデル（LLM）の開発における倫理的な疑問が投げかけられています。Wired誌の調査報道によると、Metaの契約社員数百人が意図的に10代の若者になりすまして競合AIチャットボットと対話し、特に敏感かつリスクの高いトピックに関するガードレール（安全性制限）をテストしていたことが判明しました。

この活動は、AIの「軍拡競争」における攻撃的な転換点を示しています。主要なプレイヤーは単に技術的なベンチマークを比較するだけでなく、非常に脆弱なユーザー層をシミュレーションすることで、競合他社の安全性インフラの弱点を積極的に調査しているのです。

プロジェクト「カンヌ」の範囲

このプロジェクトには、Metaの契約労働者が、OpenAIのChatGPT、GoogleのGemini、そして専門プラットフォームである**Character.AI**などの業界リーダーの安全メカニズムを探るための巧妙な取り組みが含まれていました。契約社員たちは18歳未満になりすました数百もの偽アカウントを作成し、チャットボットに対して「危機を煽るプロンプト」を入力するよう指示されていました。これらのプロンプトは、自傷行為、性的コンテンツ、薬物乱用、その他の禁止項目に関する回答を引き出すように設計されていました。

その目的は、これらの主要なAIプラ