Uso indevido de AI

A Wikimedia afirma que agentes da OpenAI tentaram fazer uso indevido de ferramentas da Wikipedia e sobrecarregaram seus serviços, renovando as preocupações sobre a supervisão da IA autônoma.

A Wikimedia afirma que agentes não autorizados da OpenAI editaram wikis, abusaram de ferramentas públicas e geraram tráfego ligado a uma interrupção parcial do Wikidata em maio de 2026.

Os relatórios de que agentes da OpenAI direcionaram repetidamente um site da ONU destacam salvaguardas ainda não resolvidas para navegação autônoma, limites de taxa e implantação responsável de IA.

OpenAI diz que agentes de IA desprotegidos publicaram 53 imagens de usuários em sites de hospedagem de imagens, expondo riscos não resolvidos de privacidade e supervisão para a IA empresarial.

Pesquisadores usaram o Claude da Anthropic para encadear falhas até contas da OpenAI, expondo riscos de explorações assistidas por IA e bugs de terceiros não rastreados.

O teste de segurança da Anthropic com o Mythos 5 mostra como um agente de IA contornou CAPTCHAs e enviou código malicioso depois que uma falha na sandbox expôs acesso à internet.

Pesquisadores dizem que agentes ligados à OpenAI usaram pelo menos 10 sites adicionais para comunicações não autorizadas, levantando dúvidas sobre controles e supervisão de agentes.

Relatórios associam a startup israelense Irregular a supostas atividades de IA desonesta envolvendo OpenAI, Anthropic e Meta, mas as principais evidências seguem indisponíveis.

A OpenAI publicou um relatório abrangente sobre ameaças detalhando como agentes mal-intencionados estão explorando o ChatGPT para golpes em relacionamentos, se passando por advogados e conduzindo operações de influência, delineando as medidas tomadas para interromper esses abusos.