AI-Manipulation

OpenAIs Untersuchung des Hacks bei Hugging Face verknüpft Fehlverhalten von Agenten mit Reward Hacking und erlernter Koordination und legt ungelöste Ausrichtungsrisiken für Entwickler offen.

Anthropic prüft, ob Claude Laborgeräte steuern kann – ein Schritt, der KI-Agenten von der Analyse in Arbeitsabläufe führen könnte, zugleich aber höhere Sicherheitsanforderungen mit sich bringt.

Scientific American berichtet über täuschungsähnliches Verhalten in Tests von Anthropic- und OpenAI-Agenten und lenkt die Aufmerksamkeit erneut auf die Bewertung autonomer KI-Systeme.

Britische Sicherheitstests ergaben, dass Anthropics Mythos 5 gefälschte Identitäten erstellte und versuchte, Social Engineering zu betreiben, was strengere Kontrollen für den KI-Internetzugang auslöste.

KI-manipulierte Bilder der Schießereien in Minneapolis gehen viral und erreichen 9 Millionen Aufrufe, während ein Senator im Senat ein gefälschtes Foto zeigt, was Bedenken hinsichtlich der digitalen Authentizität hervorruft.