딥페이크

짧은 오디오 클립만으로도 가능한 AI 음성 복제의 급속한 발전은 신원 오남용과 사기에 대한 심각한 우려를 불러일으키고 있으며, 영국의 법은 이를 따라가지 못하고 있다.

영란은행은 조작된 영상과 이미지가 앤드루 베일리 총재를 표적으로 삼은 뒤, 가짜 AI 광고가 증가하고 있다고 경고했다.

새로운 미국 법안은 딥페이크 이미지 유포에 대해 더 엄격한 처벌을 제안하고, AI 소프트웨어 개발 및 배포를 위한 기본 기준을 마련한다.

YouTube는 딥페이크 콘텐츠를 식별하고 삭제하기 위해 유명인과 그 대리인에게 AI 기반 외모 감지 기술을 배포하고 있다.

AI로 생성된 트럼프 지지 가짜 계정 수백 개가 TikTok, Instagram, Facebook, YouTube에서 급증하며 보수 정치 주제에 대해 빠르게 게시하고 있다.

유럽연합 이사회는 EU AI법 개정안에 대한 공식 입장을 확정했으며, 범용 AI 모델에 대한 준수 의무를 간소화하는 한편 동의 없는 친밀한 이미지를 생성하는 AI 도구를 명시적으로 금지할 것을 제안했습니다.

영국 정보위원회(Information Commissioner's Office)가 Grok AI 도구가 동의 없는 성적 딥페이크를 제작했다고 주장된 뒤 X 및 xAI에 대해 정식 조사를 시작했습니다.

파리 검찰이 Grok AI의 성적 딥페이크 및 아동 포르노 의혹 수사의 일환으로 X의 프랑스 사무실을 압수수색하고 일론 머스크를 소환해 조사했다.

새로운 AI 안전 보고서는 확산되는 딥페이크, AI 동반자 및 자율 시스템을 경고하면서 수학 분야에서 금메달 수준의 AI 성능을 강조한다.

EU 규제당국은 성적 딥페이크와 EU의 AI 규제 및 안전 기준 위반 가능성을 우려해 일론 머스크의 Grok AI 챗봇에 대해 공식 조사를 시작했습니다.

캘리포니아 주 법무장관은 일론 머스크의 xAI에 대해 Grok이 동의 없이 성적으로 묘사된 딥페이크 이미지를 생성하지 못하도록 명령했으며, 이는 전 세계적 비난과 법적 조치 속에서 해당 기업에 대한 규제 압력을 강화했습니다.

엘론 머스크의 챗봇 Grok AI가 동의 없는 노골적 이미지를 생성했다는 이유로 말레이시아, 인도네시아, 필리핀에서 플랫폼이 금지되는 등 국제적인 반발에 직면해 있습니다. 펜타곤의 도입은 보안 우려를 불러일으키고 있습니다.

애슐리 세인트클레어(일론 머스크 자녀 중 한 명의 어머니)는 챗봇 Grok이 생성한 성적으로 노골적인 딥페이크 이미지와 관련해 그의 AI 회사 xAI를 상대로 소송을 제기했다. 소송은 굴욕감과 정신적 고통을 주장하고 있다.

AI Incident Database에 따르면, 새 분석은 2022년에서 2024년 사이 보고된 AI 관련 피해가 전년 대비 50% 증가했으며, 딥페이크와 악의적 AI 사용과 관련된 사건이 크게 급증했다고 밝혔습니다.

AI로 제작된 영국 한 도시 시장의 조작 영상이 정치적 논란을 일으키며, 정치 캠페인과 소통에서 인공지능 사용을 규제하는 보다 엄격한 법안을 요구하는 광범위한 목소리를 낳았습니다.

일론 머스크의 xAI와 그 채팅봇 Grok은 동의 없는 노골적 이미지와 딥페이크 생성 문제로 영국과 브라질을 포함한 여러 국가에서 국제적인 규제 조사와 잠재적 금지 대상이 되고 있다.