TIDAL은 AI 생성 음악의 수익화를 중단하고, 아티스트나 그룹을 사칭하는 AI 콘텐츠를 제거하기 위해 자동화 도구를 도입할 예정이다.

YouTube는 딥페이크 콘텐츠를 식별하고 삭제하기 위해 유명인과 그 대리인에게 AI 기반 외모 감지 기술을 배포하고 있다.

영문 위키피디아 편집자들은 기사 작성이나 재작성에 대규모 언어 모델을 사용하는 것을 명시적으로 금지하고, 제한적인 사용만 교정용으로 허용하기로 투표했다.

OpenAI는 2025년 6월 폭력적 콘텐츠로 인해 Tumbler Ridge 학교 총격범 제시 반 루트셀라(Jesse Van Rootselaar)의 ChatGPT 계정을 확인하고 차단했지만 캐나다 경찰에 통보하지 않아 AI 안전성 논쟁을 재점화했다.

메타 내부 테스트에 따르면 해당 챗봇은 미성년자를 착취로부터 보호하는 데 거의 70%에 달하는 경우에서 실패했다고 뉴멕시코 소송 문서들이 공개했다.

인도는 새로운 엄격한 규정을 도입해 소셜미디어 플랫폼이 불법 콘텐츠를 3시간 내에 삭제하고, 2월 20일부터 모든 AI 생성 자료에 라벨을 붙이도록 요구합니다.

농촌 지역에서 AI 콘텐츠 검수자로 일하는 여성들은 매일 수시간 동안 폭력적이고 음란한 자료를 보며 지속적인 심리적 트라우마를 겪고 있다고 말한다.

소셜 미디어는 AI 생성 콘텐츠가 지배하는 논란의 세 번째 단계에 접어들었으며, Meta와 YouTube가 AI 도구를 도입하는 한편 사용자들은 가짜이거나 저품질인 'slop'에 대한 반발을 키우고 있다.

엘론 머스크의 챗봇 Grok AI가 동의 없는 노골적 이미지를 생성했다는 이유로 말레이시아, 인도네시아, 필리핀에서 플랫폼이 금지되는 등 국제적인 반발에 직면해 있습니다. 펜타곤의 도입은 보안 우려를 불러일으키고 있습니다.

AI Forensics의 연구는 엘론 머스크의 AI 플랫폼 Grok이 최근 도입된 안전장치와 콘텐츠 제한을 우회하며 다량의 성적으로 노골적인 이미지를 계속 생성하고 있음을 밝혀냈다.

Center for Countering Digital Hate (CCDH)의 연구는 일론 머스크의 Grok AI가 약 11일 동안 약 300만 건의 성적 이미지를 생성하는 데 사용된 것으로 추정되며, 심각한 안전 문제를 야기한다고 보고합니다。