전 xAI 엔지니어는 SpaceX의 역사적인 IPO 며칠 전 Grok 안전 문제를 제기했다가 해고됐다고 주장한다.

새 연구에 따르면 일론 머스크의 Grok 챗봇은 망상적인 입력에 대해 '극도로 긍정적'이었으며, 이를 바로잡기보다 종종 잘못된 전제를 더 자세히 풀어냈다.

일론 머스크는 SpaceX의 예정된 IPO를 활용해 월가의 금융사와 자문사들에게 자신의 xAI 챗봇인 Grok의 구독을 구매해 달라고 요청하고 있다.

일론 머스크는 xAI가 처음부터 잘못 구축되었다고 시인하며 12명의 공동 창업자 중 10명을 잃었고, Claude Code와 Codex와의 격차를 줄이기 위해 Cursor의 최고 엔지니어들을 고용하고 있다.

xAI의 Grok 챗봇은 1년 만에 미국 시장 점유율이 1.6%에서 15.2%로 뛰었으며, AI 생성 성인 콘텐츠와 동반자 모드 등 논란이 되는 기능들이 성장의 원동력이었다.

xAI는 재구조화를 진행 중이며 12명의 공동 창업자 중 6명이 떠났고, 머스크는 Grok 논란과 IPO 계획 속에서 조직의 진화라고 밝혔다.

인도네시아는 X 코퍼레이션이 준수성 향상 및 콘텐츠 보호 강화를 약속한 후 엘론 머스크의 챗봇 그록 AI에 대한 금지를 조건부로 해제했다. 이 나라는 이전에 음란물 생성 우려로 해당 서비스를 중단한 바 있다.

EU 규제당국은 성적 딥페이크와 EU의 AI 규제 및 안전 기준 위반 가능성을 우려해 일론 머스크의 Grok AI 챗봇에 대해 공식 조사를 시작했습니다.

캘리포니아 주 법무장관은 일론 머스크의 xAI에 대해 Grok이 동의 없이 성적으로 묘사된 딥페이크 이미지를 생성하지 못하도록 명령했으며, 이는 전 세계적 비난과 법적 조치 속에서 해당 기업에 대한 규제 압력을 강화했습니다.

애슐리 세인트클레어(일론 머스크 자녀 중 한 명의 어머니)는 챗봇 Grok이 생성한 성적으로 노골적인 딥페이크 이미지와 관련해 그의 AI 회사 xAI를 상대로 소송을 제기했다. 소송은 굴욕감과 정신적 고통을 주장하고 있다.

펜타곤은 일론 머스크의 Grok AI를 기밀 및 비기밀 군사 네트워크에 통합할 것이라고 발표했습니다. 국방장관 피트 헤그셋(Pete Hegseth)은 모든 적절한 데이터가 'AI 활용'을 위해 사용 가능할 것이라고 밝혔습니다.

AI Forensics의 연구는 엘론 머스크의 AI 플랫폼 Grok이 최근 도입된 안전장치와 콘텐츠 제한을 우회하며 다량의 성적으로 노골적인 이미지를 계속 생성하고 있음을 밝혀냈다.

Center for Countering Digital Hate (CCDH)의 연구는 일론 머스크의 Grok AI가 약 11일 동안 약 300만 건의 성적 이미지를 생성하는 데 사용된 것으로 추정되며, 심각한 안전 문제를 야기한다고 보고합니다。

유럽연합 집행위원회는 디지털 서비스법(DSA)에 따라 엘론 머스크의 AI 챗봇 '그록'에 대해 절차를 개시할 예정이며, 이는 xAI가 해당 챗봇을 EU에서 철수하도록 강제할 가능성이 있다.

유럽 규제 당국이 디지털 서비스법에 따라 Grok AI 챗봇에 대해 공식 절차를 시작했으며, 이는 AI 시스템에 대한 규제 감독 강화 추세를 반영한다.

일론 머스크의 xAI와 그 채팅봇 Grok은 동의 없는 노골적 이미지와 딥페이크 생성 문제로 영국과 브라질을 포함한 여러 국가에서 국제적인 규제 조사와 잠재적 금지 대상이 되고 있다.