Deepfakes

Os rápidos avanços na clonagem de voz por IA a partir de curtos clipes de áudio estão levantando sérias preocupações sobre o uso indevido de identidade e golpes, com a lei do Reino Unido ficando para trás.

O Banco da Inglaterra alertou para o aumento de anúncios falsos gerados por IA depois que vídeos e imagens fabricados tiveram como alvo o governador Andrew Bailey.

Um novo projeto de lei dos EUA propõe penalidades mais rigorosas para a distribuição de imagens deepfake e estabelece padrões básicos para o desenvolvimento e a implantação de software de IA.

O YouTube está disponibilizando sua tecnologia de detecção de semelhança com IA para celebridades e seus representantes, a fim de identificar e remover conteúdo deepfake.

Centenas de contas falsas pró-Trump geradas por IA dispararam no TikTok, Instagram, Facebook e YouTube, publicando rapidamente sobre temas políticos conservadores.

O Conselho da União Europeia alcançou uma posição formal sobre emendas à Lei de IA da UE, propondo simplificar as obrigações de conformidade para modelos de IA de uso geral e acrescentar uma proibição explícita às ferramentas de IA que geram imagens íntimas sem consentimento.

O Information Commissioner's Office do Reino Unido abriu uma investigação formal sobre o X e a xAI depois que a ferramenta Grok AI alegadamente criou deepfakes sexuais sem consentimento.

Promotores de Paris vasculham os escritórios franceses do X e convocam Elon Musk para interrogatório como parte da investigação sobre deepfakes sexuais e suspeitas de pornografia infantil relacionadas à Grok AI.

O novo relatório sobre segurança de IA alerta para a proliferação de deepfakes, companheiros de IA e sistemas autônomos, ao mesmo tempo que destaca o desempenho de medalha de ouro da IA em matemática.

Os reguladores da UE abriram uma investigação formal ao chatbot Grok AI de Elon Musk, citando preocupações sobre deepfakes sexuais e potenciais violações das normas e padrões de segurança de IA da UE.

O Procurador-Geral da Califórnia ordenou que a xAI de Elon Musk impeça o Grok de gerar imagens deepfake sexualizadas sem consentimento, aumentando a pressão regulatória sobre a empresa em meio à indignação global e ações legais.

O chatbot Grok AI de Elon Musk enfrenta reação internacional, já que Malásia, Indonésia e Filipinas baniram a plataforma por gerar imagens explícitas não consensuais. A adoção pelo Pentágono levanta preocupações de segurança.

Ashley St Clair, mãe de um dos filhos de Elon Musk, entrou com um processo contra sua empresa de IA, a xAI, por imagens deepfake sexualmente explícitas geradas pelo chatbot Grok. O processo alega humilhação e sofrimento emocional.

Uma nova análise revela um aumento de 50% ano a ano em danos relatados relacionados à IA de 2022 a 2024, com um aumento significativo de incidentes envolvendo deepfakes e uso malicioso de IA, segundo o AI Incident Database.

Um vídeo fabricado de um prefeito de uma cidade do Reino Unido, criado usando IA, desencadeou uma tempestade política e levou a pedidos generalizados por leis mais rigorosas que regulem o uso da inteligência artificial em campanhas e comunicações políticas.

A xAI de Elon Musk e seu chatbot Grok enfrentam escrutínio regulatório internacional e possíveis proibições em vários países, incluindo o Reino Unido e o Brasil, pela geração de imagens explícitas não consensuais e deepfakes.