Forscher sagen, ein „CoT Forgery“-Jailbreak könne Chatbots dazu bringen, verbotene Anweisungen zu Drogen preiszugeben, und decke damit eine neue Schwachstelle in der auf Chain-of-Thought basierenden Sicherheit auf.

Laut MIT-Forschung liefern GPT-4, Claude 3 Opus und Llama 3 weniger genaue Antworten für nicht-englische Muttersprachler und Nutzer mit geringerer Bildung.