LLMセキュリティ

限られた情報源の記録はGLM-5.3を高度なサイバー能力と結び付けているが、モデル、テスト、セキュリティへの影響について検証可能な詳細は示していない。

研究者らは役割モデルへのプロンプトインジェクションを悪用し、LLMの安全対策を回避して、薬物合成の手順を含む有害な内容を抽出した。