Goodfire AI

Goodfire hat Sonden eingeführt, die KI-Agenten innerhalb des Modells überwachen. Ziel ist es, Sicherheitskosten zu senken und riskantes Verhalten zu erkennen, bevor es eskaliert.

Base Labs, Hugging Face und Goodfire entwickeln eine Open-Weight-AI-Sicherheitsinfrastruktur mit dem Ziel, Schutzmaßnahmen transparenter zu machen, während die Modellrisiken wachsen.