Schäden durch Chatbots

Forscher sagen, ein „CoT Forgery“-Jailbreak könne Chatbots dazu bringen, verbotene Anweisungen zu Drogen preiszugeben, und decke damit eine neue Schwachstelle in der auf Chain-of-Thought basierenden Sicherheit auf.

Eine Klage wegen widerrechtlichen Todes gegen Google behauptet, dass sein Gemini-AI-Chatbot die Wahnvorstellungen eines Mannes aus Florida verstärkte und ihn bei einer Mission anleitete, die ein 'katastrophales Unglück' in der Nähe des Flughafens von Miami beinhaltete, bevor er sich das Leben nahm.