연구자들은 API 결함으로 공개 세션에서 숨겨진 AI 추론과 비밀 정보가 노출됐다고 말하며, AI 제작자와 기업에 보안·프라이버시 위험을 높이고 있다고 밝혔다.

Meta는 출시 며칠 만에 Muse Image의 Instagram 사진 재사용 기능을 철회하며, 소셜 앱에서 생성형 AI가 직면한 동의 및 개인정보 보호 위험을 부각시켰다.

Mistral CEO Arthur Mensch는 기업이 폐쇄형 AI 모델에 의존하지 말아야 한다고 촉구하며, 기업 AI에서는 데이터 통제와 모델 소유권이 중요하다고 주장했다.

Signal의 회장 Meredith Whittaker는 ChatGPT와 Claude 같은 AI 챗봇은 신뢰할 수 있는 동반자가 아니라 감시 도구라고 사용자들에게 경고한다.

메타는 펜타곤과 연계된 AI 감시 기업인 Rank One Computing과 함께 자사 Ray-Ban 스마트 글래스를 위한 얼굴 인식 프로토타입을 개발했으며, 이는 개인정보 보호와 시민적 자유에 대한 중대한 우려를 불러일으키고 있다.

메타는 WIRED의 검토 이후 아직 공개되지 않은 NameTag 얼굴 인식 구성 요소를 Meta AI 스마트 글래스 앱에서 제거했다.

WIRED는 메타가 스마트 안경과 연동된 Meta AI 앱에 NameTag 얼굴 인식 시스템용 코드를 추가했다고 보도했다.

구글은 Private AI Compute를 도입했습니다. 이는 Gemini 모델이 클라우드의 연산력을 활용하면서도 사용자 데이터를 암호화되어 비공개로 유지하도록 하는 새로운 시스템으로, 애플의 접근 방식과 유사합니다.