セキュリティ研究者がプロンプトインジェクションでLLMをだまし、コカインのレシピを出させた研究者らは役割モデルへのプロンプトインジェクションを悪用し、LLMの安全対策を回避して、薬物合成の手順を含む有害な内容を抽出した。