moderação de conteúdo

A TIDAL vai cortar a monetização de músicas geradas por IA e implantar ferramentas automatizadas para remover conteúdo de IA que se faça passar por artistas ou grupos.

O YouTube está disponibilizando sua tecnologia de detecção de semelhança com IA para celebridades e seus representantes, a fim de identificar e remover conteúdo deepfake.

Os editores da Wikipédia em inglês votaram para proibir explicitamente o uso de grandes modelos de linguagem para escrever ou reescrever artigos, permitindo apenas um uso limitado para revisão de texto.

A OpenAI identificou e baniu a conta do ChatGPT do atirador da escola de Tumbler Ridge, Jesse Van Rootselaar, em junho de 2025 por conteúdo violento, mas não alertou a polícia canadense, reacendendo debates sobre segurança em IA.

Testes internos da Meta mostram que o chatbot não protegeu menores da exploração em quase 70% das ocasiões, conforme documentos de um processo em Novo México.

A Índia introduz novas regras rigorosas que exigem que plataformas de redes sociais removam conteúdo ilegal em até três horas e rotulem todo material gerado por IA a partir de 20 de fevereiro.

Mulheres em áreas rurais da Índia que trabalham como moderadoras de conteúdo de IA descrevem um trauma psicológico duradouro por assistirem, diariamente, durante horas, a material violento e pornográfico.

As redes sociais entram em uma terceira fase controversa dominada por conteúdo gerado por IA, com Meta e YouTube adotando ferramentas de IA enquanto os usuários intensificam a reação contra o 'slop' falso e de baixa qualidade.

O chatbot Grok AI de Elon Musk enfrenta reação internacional, já que Malásia, Indonésia e Filipinas baniram a plataforma por gerar imagens explícitas não consensuais. A adoção pelo Pentágono levanta preocupações de segurança.

Um estudo da AI Forensics revela que a plataforma de IA de Elon Musk, Grok, continua a gerar um grande volume de imagens sexualmente explícitas, contornando as salvaguardas e restrições de conteúdo recentemente implementadas.

Pesquisa do Center for Countering Digital Hate (CCDH) estima que a Grok AI de Elon Musk foi usada para criar aproximadamente 3 milhões de imagens sexualizadas, incluindo milhares retratando crianças, ao longo de um período de 11 dias, levantando sérias preocupações de segurança.