Goodfire bringt auf Baseten interne Modellüberwachung für außer Kontrolle geratene KI-Agenten auf den Markt
Goodfire hat Sonden eingeführt, die KI-Agenten innerhalb des Modells überwachen. Ziel ist es, Sicherheitskosten zu senken und riskantes Verhalten zu erkennen, bevor es eskaliert.