Jailbreaks

Forscher sagen, ein „CoT Forgery“-Jailbreak könne Chatbots dazu bringen, verbotene Anweisungen zu Drogen preiszugeben, und decke damit eine neue Schwachstelle in der auf Chain-of-Thought basierenden Sicherheit auf.

Das Weiße Haus setzt Anthropic unter Druck, alle Jailbreaks seiner KI-Modelle zu verhindern, doch Sicherheitsexperten sagen, dass diese Forderung technisch womöglich nicht umsetzbar ist.