Inhaltsmoderation

TIDAL wird die Monetarisierung von KI-generierter Musik beenden und automatisierte Tools einsetzen, um KI-Inhalte zu entfernen, die sich als Künstler oder Gruppen ausgeben.

YouTube rollt seine KI-gestützte Technologie zur Erkennung von Ähnlichkeiten an Prominente und ihre Vertreter aus, um Deepfake-Inhalte zu erkennen und zu entfernen.

Die Bearbeiter der englischen Wikipedia stimmten dafür, die Verwendung großer Sprachmodelle zum Schreiben oder Umschreiben von Artikeln ausdrücklich zu verbieten und eine begrenzte Nutzung nur für das Lektorat zuzulassen.

OpenAI identifizierte und sperrte im Juni 2025 das ChatGPT-Konto des Tumbler Ridge-Schulschützen Jesse Van Rootselaar wegen gewalttätiger Inhalte, benachrichtigte jedoch nicht die kanadische Polizei, wodurch die Debatten über KI-Sicherheit neu entfacht wurden.

Interne Tests bei Meta zeigen, dass der Chatbot in fast 70% der Fälle versagte, Minderjährige vor Ausbeutung zu schützen, wie in Unterlagen einer Klage in New Mexico offengelegt wurde.

Indien führt strenge neue Regeln ein, die soziale Netzwerke verpflichten, rechtswidrige Inhalte innerhalb von drei Stunden zu entfernen und sämtliches KI-generiertes Material ab dem 20. Februar zu kennzeichnen.

Frauen in ländlichen Regionen Indiens, die als KI-Inhaltsmoderatorinnen arbeiten, berichten von anhaltenden psychischen Traumata durch das tägliche stundenlange Anschauen von gewalttätigem und pornografischem Material.

Soziale Medien treten in eine umstrittene dritte Phase ein, die von KI-generierten Inhalten dominiert wird, wobei Meta und YouTube KI-Tools einsetzen, während Nutzer zunehmend gegen gefälschten und minderwertigen 'slop' protestieren.

Elon Musks Chatbot Grok AI sieht sich internationaler Kritik ausgesetzt, da Malaysia, Indonesien und die Philippinen die Plattform wegen nicht einvernehmlicher expliziter Bilder gesperrt haben. Die Übernahme durch das Pentagon wirft Sicherheitsbedenken auf.

Eine Studie von AI Forensics zeigt, dass Elon Musks KI-Plattform Grok weiterhin eine große Menge sexuell expliziter Bilder erzeugt und dabei kürzlich eingeführte Schutzmaßnahmen und Inhaltsbeschränkungen umgeht.

Forschung des Center for Countering Digital Hate (CCDH) schätzt, dass Elon Musks Grok AI in einem Zeitraum von 11 Tagen zur Erstellung von etwa 3 Millionen sexualisierten Bildern verwendet wurde, was schwerwiegende Sicherheitsbedenken aufwirft.