Goodfire AI

Goodfireは、モデルの内部からAIエージェントを監視するプローブを開始した。安全対策のコストを抑えながら、危険な行動がエスカレートする前に検知することを目指す。

Base Labs、Hugging Face、Goodfireは、モデルのリスクが高まる中で、保護策をより透明にすることを目指し、オープンウェイトAIの安全インフラを構築している。