Forscher berichten über „CoT Forgery“-Jailbreak, der Chatbots mit gefälschtem Reasoning-Kontext über Sicherheitsregeln hinwegbringen kann
Forscher sagen, ein „CoT Forgery“-Jailbreak könne Chatbots dazu bringen, verbotene Anweisungen zu Drogen preiszugeben, und decke damit eine neue Schwachstelle in der auf Chain-of-Thought basierenden Sicherheit auf.