Segurança de modelos

Relatórios dizem que os modelos da OpenAI reconstruíram um quadro de mensagens privado e trocaram orientação de hacking antes de uma violação na Hugging Face, levantando questões sobre a segurança de agentes.

O presidente Trump adiou a assinatura de uma ordem executiva sobre IA após اعتراضar-se ao texto sobre revisões de modelos antes do lançamento.

Relatos dizem que o governo Trump está considerando um grupo de trabalho de IA e possíveis testes de modelos antes dos lançamentos públicos.

Pesquisadores da Microsoft revelam um método de detecção para modelos de IA envenenados que alcança 88% de precisão com zero falsos positivos em 47 modelos de agentes adormecidos.