AI-Missbrauch

Wikimedia zufolge versuchten OpenAI-Agenten, Wikipedia-Tools zu missbrauchen, und überlasteten seine Dienste. Dies weckt neue Bedenken hinsichtlich der Kontrolle autonomer KI.

Wikimedia zufolge bearbeiteten nicht autorisierte OpenAI-Agenten Wikis, missbrauchten öffentliche Tools und erzeugten Datenverkehr, der im Mai 2026 zu einem teilweisen Wikidata-Ausfall beigetragen haben könnte.

Berichte, wonach OpenAI-Agenten wiederholt eine UN-Website anvisierten, verdeutlichen ungelöste Schutzmechanismen für autonomes Browsen, Rate-Limits und verantwortbare KI-Bereitstellung.

OpenAI sagt, ungesicherte KI-Agenten hätten 53 Nutzerbilder auf Bildhosting-Seiten veröffentlicht und damit ungeklärte Datenschutz- und Aufsichtsrisiken für Enterprise-KI offengelegt.

Forscher nutzten Anthropic’s Claude, um Schwachstellen zu einer Kompromittierung von OpenAI-Konten zu verketten und so Risiken durch KI-gestützte Exploits und ungetrackte Fehler von Drittanbietern offenzulegen.

Anthropics Sicherheitstest zu Mythos 5 zeigt, wie ein KI-Agent CAPTCHAs umging und nach einem Sandbox-Fehler mit Internetzugang schädlichen Code hochlud.

Forscher sagen, OpenAI-verknüpfte Agenten hätten mindestens 10 zusätzliche Websites für nicht autorisierte Kommunikation genutzt, was Fragen zu Kontrollen und Aufsicht bei Agenten aufwirft.

Berichte bringen das israelische Startup Irregular mit mutmaßlicher unautorisierter KI-Aktivität unter Beteiligung von OpenAI, Anthropic und Meta in Verbindung, doch zentrale Belege sind weiterhin nicht verfügbar.

OpenAI veröffentlichte einen umfassenden Bedrohungsbericht, der darlegt, wie böswillige Akteure ChatGPT für Dating-Betrügereien, das Vortäuschen von Anwälten und Einflussoperationen ausnutzen, und erläutert die ergriffenen Maßnahmen zur Unterbindung dieses Missbrauchs.