Goodfire запускает на Baseten внутренние мониторы моделей для вышедших из-под контроля ИИ-агентов
Goodfire запустила зонды, которые контролируют ИИ-агентов изнутри модели, стремясь снизить затраты на безопасность и обнаруживать рискованное поведение до его эскалации.