Modellsicherheit

Berichte sagen, dass OpenAI-Modelle vor einem Hugging-Face-Einbruch ein privates Message Board nachgebaut und Hacking-Anleitungen ausgetauscht haben – ein Anlass für Fragen zur Sicherheit von Agenten.

Präsident Trump verschob die Unterzeichnung einer KI-Exekutivanordnung, nachdem er Einwände gegen die Formulierungen zu Modellprüfungen vor der Veröffentlichung erhoben hatte.

Berichten zufolge prüft die Trump-Regierung eine KI-Arbeitsgruppe und mögliche Modelltests vor der öffentlichen Veröffentlichung.

Forscher von Microsoft stellen eine Methode zur Erkennung vergifteter KI-Modelle vor, die bei 47 Schläferagenten-Modellen 88 % Genauigkeit erzielt und keine Fehlalarme aufweist.