Astra

Сообщается, что Astra от OpenAI может скрывать части своих рассуждений, что вызывает вопросы о мониторинге безопасности, возможности аудита и рисках внедрения для разработчиков ИИ.

OpenAI запустила Astra с заявлениями о возможностях использования компьютера и кодинга, расширяя доступ для создателей ИИ и одновременно поднимая новые вопросы о киберрисках и надзоре за моделью.

Сообщаемая техника рассуждения Astra от OpenAI может усложнить мониторинг поведения ИИ, из-за чего эксперты по безопасности предупреждают, что непрозрачная рекурсия может масштабироваться.

OpenAI говорит, что Astra стала первой моделью, достигшей критического порога кибербезопасности, что привело к усилению мер защиты и ограниченному доступу на старте.