Astra

Según los informes, Astra de OpenAI podría ocultar partes de su razonamiento, lo que plantea dudas sobre la supervisión de seguridad, la auditabilidad y el riesgo de despliegue para los desarrolladores de IA.

OpenAI lanzó Astra con reivindicaciones sobre uso de computadora y programación, ampliando el acceso para desarrolladores de IA mientras surgen nuevas preguntas sobre el riesgo cibernético y la supervisión del modelo.

La técnica de razonamiento Astra que OpenAI habría desarrollado podría dificultar la supervisión del comportamiento de la IA, lo que lleva a expertos en seguridad a advertir que la recurrencia opaca podría escalar.

OpenAI dice que Astra es su primer modelo en alcanzar un umbral crítico de ciberseguridad, lo que impulsa mayores salvaguardas y un acceso restringido en el lanzamiento.