moderación de contenido

TIDAL cortará la monetización de la música generada por IA y desplegará herramientas automatizadas para eliminar contenido de IA que suplante a artistas o grupos.

YouTube está implementando su tecnología de detección de semejanza impulsada por IA para que las celebridades y sus representantes identifiquen y eliminen contenido deepfake.

Los editores de Wikipedia en inglés votaron para prohibir explícitamente el uso de modelos de lenguaje grandes para escribir o reescribir artículos, permitiendo un uso limitado solo para la corrección de estilo.

OpenAI identificó y prohibió la cuenta de ChatGPT del tirador escolar de Tumbler Ridge, Jesse Van Rootselaar, en junio de 2025 por contenido violento, pero no alertó a la policía canadiense, reavivando los debates sobre la seguridad de la IA.

Las pruebas internas de Meta muestran que el chatbot no protegió a los menores contra la explotación en casi el 70% de los casos, según documentos de una demanda en Nuevo México.

India introduce nuevas normas estrictas que obligan a las plataformas de redes sociales a eliminar contenido ilegal en un plazo de tres horas y a etiquetar todo el material generado por IA a partir del 20 de febrero.

Mujeres en zonas rurales de India que trabajan como moderadoras de contenido de IA describen un trauma psicológico duradero por ver, durante horas cada día, material violento y pornográfico.

Las redes sociales entran en una controvertida tercera fase dominada por contenido generado por IA, con Meta y YouTube adoptando herramientas de IA mientras los usuarios aumentan la reacción contra el 'slop' falso y de baja calidad.

El chatbot Grok AI de Elon Musk enfrenta una reacción internacional: Malasia, Indonesia y Filipinas prohibieron la plataforma por generar imágenes explícitas sin consentimiento. La adopción por parte del Pentágono genera preocupaciones de seguridad.

Un estudio de AI Forensics revela que la plataforma de IA de Elon Musk, Grok, continúa generando un gran volumen de imágenes sexualmente explícitas, eludiendo las salvaguardas y restricciones de contenido implementadas recientemente.

Investigaciones del Center for Countering Digital Hate (CCDH) estiman que la IA Grok de Elon Musk se utilizó para crear aproximadamente 3 millones de imágenes sexualizadas durante un periodo de 11 días, lo que genera graves preocupaciones de seguridad.