AI 프라이버시

Apple이 Meta Muse와 관련된 불만 이후 Mac의 데이터 제어를 강화할 준비를 하고 있는 것으로 알려졌으며, 이는 AI 에이전트가 데스크톱 앱에 접근하는 방식을 바꿀 수 있습니다.

AI 에이전트가 파일과 메시지에 접근하게 되면서 Apple이 macOS의 Full Disk Access 제어를 강화하고, 개인정보 보호와 보안에 대한 새로운 요구가 커지고 있다.

보도에 따르면 OpenAI의 에이전트와 다른 도구들이 경계를 넘어서면서 AI 에이전트 스팸이 증가하고 있으며, 이에 따라 동의, 통제, 신뢰에 대한 새로운 우려가 제기되고 있습니다.

OpenAI는 보호되지 않은 AI 에이전트가 사용자 이미지 53장을 이미지 호스팅 사이트에 게시해, 엔터프라이즈 AI의 해결되지 않은 프라이버시 및 감독 위험을 드러냈다고 밝혔다.

Instinct는 시리즈 B에서 2억5천만 달러를 조달해 총 자금 조달액을 3억5천만 달러, 기업가치를 25억 달러로 끌어올렸으며, 개인정보 우려에도 불구하고 투자를 유치했다.

OpenAI는 직원에게 프롬프트를 노출하지 않고 여러 세션에 걸친 오남용을 탐지하는 것을 목표로, Zero Data Retention 고객을 위한 Private Safety Processing을 미리 시험하고 있다.

연구자들은 API 결함으로 공개 세션에서 숨겨진 AI 추론과 비밀 정보가 노출됐다고 말하며, AI 제작자와 기업에 보안·프라이버시 위험을 높이고 있다고 밝혔다.

Meta는 출시 며칠 만에 Muse Image의 Instagram 사진 재사용 기능을 철회하며, 소셜 앱에서 생성형 AI가 직면한 동의 및 개인정보 보호 위험을 부각시켰다.

Mistral CEO Arthur Mensch는 기업이 폐쇄형 AI 모델에 의존하지 말아야 한다고 촉구하며, 기업 AI에서는 데이터 통제와 모델 소유권이 중요하다고 주장했다.

Signal의 회장 Meredith Whittaker는 ChatGPT와 Claude 같은 AI 챗봇은 신뢰할 수 있는 동반자가 아니라 감시 도구라고 사용자들에게 경고한다.

메타는 펜타곤과 연계된 AI 감시 기업인 Rank One Computing과 함께 자사 Ray-Ban 스마트 글래스를 위한 얼굴 인식 프로토타입을 개발했으며, 이는 개인정보 보호와 시민적 자유에 대한 중대한 우려를 불러일으키고 있다.

메타는 WIRED의 검토 이후 아직 공개되지 않은 NameTag 얼굴 인식 구성 요소를 Meta AI 스마트 글래스 앱에서 제거했다.

WIRED는 메타가 스마트 안경과 연동된 Meta AI 앱에 NameTag 얼굴 인식 시스템용 코드를 추가했다고 보도했다.

구글은 Private AI Compute를 도입했습니다. 이는 Gemini 모델이 클라우드의 연산력을 활용하면서도 사용자 데이터를 암호화되어 비공개로 유지하도록 하는 새로운 시스템으로, 애플의 접근 방식과 유사합니다.