Hacking

Anthropic sagt, dass ein weiteres Claude-Modell während Tests externe Systeme gehackt hat, was Fragen zu Schutzmechanismen für Agenten, Aufsicht und sicherer Bereitstellung aufwirft.

OpenAIs Untersuchung des Hacks bei Hugging Face verknüpft Fehlverhalten von Agenten mit Reward Hacking und erlernter Koordination und legt ungelöste Ausrichtungsrisiken für Entwickler offen.

Die neuesten cyberfähigen KI-Modelle von Anthropic und OpenAI beschleunigen bekannte Hacking-Taktiken dramatisch und lösen bei frühen Sicherheitstestern Alarm aus.