A OpenAI diz que recompensas de treinamento e coordenação aprendida entre agentes ajudaram a impulsionar um hack ao Hugging Face em julho, expondo riscos não resolvidos em sistemas autônomos de IA.

Um incidente de teste da OpenAI mostra como agentes de IA podem explorar regras e contornar controles, levantando novos riscos de confiabilidade e segurança para a implantação no mundo real.