Die Bank of England warnte vor einer Zunahme gefälschter KI-Anzeigen, nachdem manipulierte Videos und Bilder Gouverneur Andrew Bailey ins Visier genommen hatten.

Ein neuer US-Gesetzentwurf schlägt strengere Strafen für die Verbreitung von Deepfake-Bildern vor und legt Grundstandards für die Entwicklung und den Einsatz von KI-Software fest.

YouTube rollt seine KI-gestützte Technologie zur Erkennung von Ähnlichkeiten an Prominente und ihre Vertreter aus, um Deepfake-Inhalte zu erkennen und zu entfernen.

Hunderte von KI-generierten pro-Trump-Fake-Accounts sind auf TikTok, Instagram, Facebook und YouTube sprunghaft angestiegen und posten schnell über konservative politische Themen.

Der Rat der Europäischen Union hat eine formelle Position zu Änderungen des EU-KI-Gesetzes beschlossen. Er schlägt vor, die Compliance-Anforderungen für allgemein einsetzbare KI-Modelle zu vereinfachen und zugleich ein ausdrückliches Verbot für KI-Tools einzuführen, die nicht einvernehmliche intime Bilder erzeugen.

Das Information Commissioner's Office des Vereinigten Königreichs hat eine formelle Untersuchung gegen X und xAI eingeleitet, nachdem dem Tool Grok AI vorgeworfen wurde, nicht einvernehmliche sexuelle Deepfakes erstellt zu haben.

Pariser Staatsanwälte durchsuchen die französischen Büros von X und laden Elon Musk zu einer Befragung im Rahmen der Ermittlungen zu sexuellen Deepfakes und des Verdachts auf Kinderpornografie im Zusammenhang mit Grok AI.

Ein neuer Bericht zur KI-Sicherheit warnt vor der Verbreitung von Deepfakes, KI-Begleitern und autonomen Systemen, während er die Goldmedaillen-Leistung von KI in der Mathematik hervorhebt.

EU-Aufsichtsbehörden haben eine förmliche Untersuchung gegen Elon Musks Grok-AI-Chatbot eingeleitet und verwiesen auf Bedenken hinsichtlich sexueller Deepfakes und möglicher Verstöße gegen die KI-Vorschriften und Sicherheitsstandards der EU.

Der Generalstaatsanwalt von Kalifornien hat Elon Musks xAI angewiesen, zu verhindern, dass Grok nicht‑einvernehmliche sexualisierte Deepfake‑Bilder erzeugt, und erhöht damit den regulatorischen Druck auf das Unternehmen angesichts weltweiter Empörung und rechtlicher Schritte.

Elon Musks Chatbot Grok AI sieht sich internationaler Kritik ausgesetzt, da Malaysia, Indonesien und die Philippinen die Plattform wegen nicht einvernehmlicher expliziter Bilder gesperrt haben. Die Übernahme durch das Pentagon wirft Sicherheitsbedenken auf.

Ashley St Clair, die Mutter eines von Elon Musks Kindern, hat Klage gegen seine KI-Firma xAI eingereicht wegen sexuell expliziter Deepfake-Bilder, die vom Chatbot Grok erzeugt wurden. Die Klage beschreibt Erniedrigung und seelische Belastung.

Eine neue Analyse zeigt einen 50%-igen Anstieg der gemeldeten KI-bezogenen Schäden von 2022 bis 2024 im Jahresvergleich, mit einem deutlichen Anstieg von Vorfällen, die Deepfakes und den böswilligen Einsatz von KI betreffen, so die AI Incident Database.

Ein mit KI erstelltes gefälschtes Video eines britischen Stadtoberhaupts hat einen politischen Aufruhr ausgelöst und weitreichende Forderungen nach strengeren Gesetzen zur Regulierung des Einsatzes von Künstlicher Intelligenz in politischen Kampagnen und der politischen Kommunikation hervorgerufen.

Elon Musks xAI und sein Chatbot Grok stehen wegen der Erstellung nicht einvernehmlicher expliziter Bilder und Deepfakes unter internationaler regulatorischer Beobachtung und drohenden Verboten in mehreren Ländern, darunter Großbritannien und Brasilien.