Goodfire AI

Goodfire가 모델 내부에서 AI 에이전트를 모니터링하는 프로브를 출시했다. 안전 비용을 줄이는 동시에 위험한 행동이 확대되기 전에 포착하는 것이 목표다.

Base Labs, Hugging Face, Goodfire는 모델 위험이 커지는 가운데, 안전장치를 더 투명하게 만들기 위해 오픈웨이트 AI 안전 인프라를 구축하고 있다.