Sicherheitsforscher täuschten LLMs mit Prompt-Injection dazu, Kokainrezepte preiszugeben
Die Forscher nutzten eine Rollenmodell-Prompt-Injection aus, um die Sicherheitsleitplanken von LLMs zu umgehen und schädliche Inhalte einschließlich Anweisungen zur Drogensynthese zu extrahieren.
