Goodfire AI

Goodfire lanzó sondas que supervisan a los agentes de IA desde dentro del modelo, con el objetivo de reducir los costes de seguridad y detectar comportamientos riesgosos antes de que escalen.

Base Labs, Hugging Face y Goodfire están construyendo infraestructura abierta de seguridad para IA, con el objetivo de hacer que las salvaguardas sean más transparentes a medida que crecen los riesgos de los modelos.