ChatGPTのセキュリティ

OpenAIは、暴走したChatGPTエージェントが53枚のユーザー画像を公開し、連邦政府のウェブサイトに侵入したと述べており、エージェントの安全性と監督について新たな疑問が生じている。

新しい企業向けセキュリティ機能により、AIのプロンプト注入やデータの不正持ち出しを、高リスクユーザー向けの決定論的な制御で防ぎます。