Meta가 새 이미지 생성 도구의 논란이 된 일부 기능을 철회하며, 공개 Instagram 사진을 다루는 방식에 대한 비판 이후 방향을 바꿨다. The Decoder에 따르면 Meta는 사용자가 다른 사람의 공개 Instagram 계정을 태그해, 그 사용자가 명시적으로 동의한 적이 없더라도 AI 이미지를 생성할 수 있게 해 주던 Muse Image 기능을 중단했다.

이 철회는 단순한 제품 수정 그 이상으로 중요하다. 대형 소셜 플랫폼 안의 생성형 AI 기능이 실제 사람의 콘텐츠를 원재료로 사용할 때 얼마나 빠르게 동의, 개인정보 보호, 악용 문제에 부딪히는지 보여주기 때문이다. 빌더와 제품 팀에게 이 사건은, 특히 정체성·외형·소셜 콘텐츠가 얽혀 있을 때 옵트아웃 통제는 정보에 기반한 허가와 같지 않다는 점을 강하게 상기시킨다.

TechCrunch는 먼저 사용자 관점에서 이 기능이 어떻게 작동했는지 보도했다. Instagram 계정이 공개 상태라면, 다른 사용자가 그 계정을 태그해 Muse Image에서 AI 생성물의 일부로 그 사진들을 사용할 수 있었다. TechCrunch에 따르면 비공개 계정과 18세 미만 사용자의 계정은 자동으로 제외되었다. 하지만 사용자들은 자신의 공개 게시물이 이런 방식으로 사용될 수 있다는 사실을 반드시 알고 있지는 않았고, 해당 매체는 누군가가 콘텐츠를 재사용해도 알림이 가지 않는다고 전했다.

Meta가 무엇을 바꿨고 왜 반발을 샀나

핵심 문제는 Meta가 Muse Image를 출시했다는 사실 자체보다, 이미지 생성과 공개 Instagram 신원 데이터 접근을 많은 사용자가 예상하지 못했을 방식으로 결합했다는 점이었다. TechCrunch와 The Decoder의 설명에 따르면, 이 기능은 자격이 되는 공개 계정에서 기본적으로 활성화되어 있었다. 자신의 콘텐츠가 포함되길 원치 않는 사용자는 Instagram에서 설정을 꺼야 했다.

이 차이가 반발의 큰 부분을 만들었다. 소셜 앱에서 “공개”는 보통 찾을 수 있거나 볼 수 있다는 뜻이다. 하지만 누군가의 외형을 새 출력물로 재조합할 수 있는 생성 시스템 안에서 재사용 가능하다는 뜻은 자동으로 아니다. The Decoder는 이후 Meta가 문제를 인정하며 “이 기능은 기대에 못 미쳤다”고 말했고, 발표 며칠 뒤 기능을 철회했다고 보도했다.

이 기능은 일대일 승인보다 공개 Instagram 상태에 의존했기 때문에 범위가 넓었을 가능성이 있다. The Decoder에 따르면, 참조된 사람의 계정이 공개 상태이고 설정이 기본값으로 켜져 있는 것 외에는 별도 동의가 필요하지 않았다. 이는 즉각적으로 사칭, 괴롭힘, 비동의 편집에 대한 우려를 낳았다.

TechCrunch 역시 비슷하게 실용적인 용어로 위험을 설명하며, 낯선 사람이 아무런 알림 없이 공개 사진을 AI 생성 이미지에 넣을 수 있다고 지적했다. 해당 매체는 사람의 이미지를 조작하거나 비동의 편집하는 등 악용 가능성을 강조했다. 이는 추상적 가정이 아니라 플랫폼 안전 설계, 모더레이션 부담, 법적 노출과 직결되는 문제다.

Instagram에서 옵트아웃은 어떻게 작동했나

Meta가 해당 기능을 제거하기 전, TechCrunch는 사용자가 Instagram 설정을 통해 옵트아웃할 수 있었다고 보도했다. 관련 제어는 “Allow people to use your content on Instagram with AI features on Meta.”라는 문구 아래에 있었다.

이 옵트아웃 경로가 중요한 이유는, Meta가 Muse Image 통제를 처음 어떻게 구조화했는지 보여주기 때문이다. 누군가의 사진을 참조하기 전에 명시적 허가를 구하기보다, 회사는 기본 포함 방식에 의존했고 이를 멈추려면 사용자가 수동으로 조치해야 했던 것으로 보인다. AI 제품 팀에게 이것이 이 이야기의 중심 설계 선택이다.

좁게 보면 Meta는 사람들이 쓸 만한 통제 수단을 제공한다고 생각했을 수 있다. 그러나 실제로 비판은 많은 관찰자들이 그 통제를 너무 숨겨져 있고, 너무 사후적이며, 계정 관리 깊숙한 곳에 묻힌 새로운 AI 전용 설정을 사용자가 이해하는 데 지나치게 의존한다고 보았음을 시사한다. TechCrunch의 설명은 사실상 소비자 안내였다. 즉, Meta 시스템이 내 사진을 사용하지 못하게 하는 방법이다. 이것만으로도 제품 설계와 사용자 기대 사이의 괴리를 드러낸다.

이 논란은 또한 사용자 데이터와 관련된 Meta의 과거라는 더 넓은 맥락 속에 놓였다. TechCrunch는 Muse Image에 대한 회의론을 2019년 Federal Trade Commission의 벌금과 Cambridge Analytica의 긴 그림자를 포함한 Facebook의 이전 개인정보 논란과 연결했다. 이 과거 사건들은 이번 출시와는 별개지만, 새 AI 데이터 사용 기능이 등장할 때 사용자와 규제 당국이 Meta의 약속을 어떻게 해석하는지 형성한다.

생성형 AI 제품에서의 동의 문제

Muse Image에서 벌어진 일은 생성형 AI의 점점 더 뚜렷한 분기점을 보여준다. 접근 권한, 플랫폼 규칙, 사회적 정당성 사이의 차이다. 기업은 공개 콘텐츠가 기술적으로 특정 제품 용도에 이용 가능하다고 판단할 수 있지만, 사용자들은 그것이 외형, 정체성, 소셜 그래프와 관련될 때 여전히 과도한 침해로 볼 수 있다.

이는 특히 Instagram 같은 소비자 플랫폼에서 두드러진다. 사용자는 기계적 재조합을 위해서가 아니라 사람들에게 보여주기 위해 게시한다. 공개 프로필은 열람, 공유, 발견을 유도할 수 있다. 그렇다고 해서 사용자가 자신의 모습이 AI 이미지 생성 시스템에서 프롬프트 가능한 입력이 되리라고 기대한다는 뜻은 아니다.

The Decoder는 더 엄격한 데이터 보호 규정 때문에 이 기능이 유럽에서는 더 어려운 길을 걸었을 가능성이 높다고 지적했다. 이는 공식적인 규제 판단은 아니지만, 지역별 개인정보 보호 체계가 어떤 AI 제품 패턴이 실현 가능한지를 좌우할 수 있음을 보여준다. 여러 시장에서 제품을 만드는 팀은 기본 활성화 설계가 어디서나 검토를 통과할 것이라고 가정할 수 없다.

또한 해당 보도는 OpenAI의 Sora 앱과의 비교도 제시했다. Sora는 사용자가 자신만의 “카메오”를 만들고, 허가가 있을 경우 다른 사람들이 이를 영상에 사용할 수 있게 했다. 여기서 중요한 차이는 허가다. 비교가 확정적이라기보다 방향성을 보여주는 것이긴 하지만, 이는 신원 기반 생성을 옵트아웃 설정이 아니라 적극적 사용자 승인으로 제한하는 제품 설계 대안을 강조한다.

증거, 주장, 그리고 확인된 것

이 이야기에서 가장 확실히 확인된 사실은 이 클러스터의 두 보도에서 나온다. TechCrunch는 Muse Image가 화요일에 Meta 앱 내에서 원본 이미지 생성, 사진 편집, 광고 생성 기능과 함께 출시되었다고 보도했다. 특히 Instagram 연동 기능은 다른 사용자가 해당 계정을 태그했을 때 공개 Instagram 계정의 사진을 사용할 수 있게 했다고 설명했다. TechCrunch는 또한 비공개 계정과 18세 미만 사용자에 대한 제외, 그리고 Instagram 설정 내의 옵트아웃 경로를 보도했다.

이후 The Decoder는 Meta가 비판 이후 논란이 된 기능을 철회했으며 회사가 “이 기능은 기대에 못 미쳤다”고 인정했다고 보도했다. 이 보도에 따르면 중단은 발표 후 불과 며칠 뒤에 이뤄졌다. The Decoder는 또한 이 기능이 기본값으로 켜져 있었다고 전했다.

더 넓은 해석 중 일부는 여전히 해석에 불과하다. 이 기능이 Sora에서 영감을 받았을 수 있다는 생각은 Meta의 확인이 아니라 The Decoder의 시장 해석이다. 마찬가지로, 이 기능이 유럽에서 금지되었을 것이라는 시사도 인용된 판결이 아니라 정보에 기반한 규제 추론이다.

TechCrunch는 소비자 정서와 개인정보 보호 맥락도 함께 제시하며, Pew Research Center 조사에서 응답자의 35%가 AI에 대해 기대보다 걱정이 더 크다고 밝혔다고 전했다. 이 수치는 대중의 분위기를 설명하는 데 도움이 되지만, Muse Image의 채택이나 사용자 행동에 대한 직접적 증거는 아니다. 어느 쪽 소스도 사용량 수치, 불만 건수, 내부 안전 지표, 또는 보고된 제품 동작을 넘어서는 출시 범위를 제공하지 않았다.

이것이 빌더와 기업 팀에 의미하는 것

AI 빌더에게 Muse Image의 철회는 제품 거버넌스에 관한 실용적인 사례다. 실패의 주원인은 모델 품질이 아니라 권한 구조였다. 기능은 기술적으로 세련되어도, 명확한 적극적 동의 없이 정체성 민감 데이터를 기본 학습 또는 생성 재료로 다루면 실패할 수 있다.

AI 에이전트, 업무 자동화, 엔터프라이즈 AI를 다루는 제품 관리자에게도 교훈은 소셜 미디어를 넘어선다. 사람의 이메일, 문서, 채팅, 이미지, 프로필을 참조하는 모든 워크플로에는 가시적인 권한 모델, 사용자 고지, 그리고 콘텐츠의 민감도에 맞는 악용 방지 통제가 필요하다. 시스템이 특정 인물을 시뮬레이션하는 데 가까워질수록 명시적 승인과 추적 가능성의 필요성은 더 커진다.

기업 구매자도 주목해야 한다. 공급업체들이 기존 협업 및 콘텐츠 시스템 전반에 AI 기능을 점점 더 약속하고 있기 때문이다. 도구가 직원 이미지, 고객 자료, 공개 브랜드 자산을 재활용할 수 있다면, 구매팀은 제어가 옵트인인지 옵트아웃인지, 누가 통지를 받는지, 어떤 로그가 있는지, 그리고 공급업체가 문제 기능을 얼마나 빨리 비활성화할 수 있는지를 알고 싶어 할 것이다. Meta의 빠른 철회는 대응력을 보여주지만, 동시에 그런 질문들이 완전히 정리되기 전에 기능이 출시될 수 있음을 보여준다.

더 안전하고 정체성을 인식하는 생성에 대한 경쟁은 더욱 치열해질 가능성이 크다. Meta, OpenAI 등은 명확한 동의 경계를 넘지 않으면서 출력을 개인화하는 방법을 시험하고 있다. 신뢰를 유지하면서 개인화를 유용하게 만들 수 있는 공급업체가 우위를 점할 수 있으며, 특히 규제 당국이 합성 미디어와 데이터 권리에 더 주목하는 가운데 그렇다.

다음에 주목할 점

첫째, Meta가 Muse Image의 어떤 형태의 정체성 기능을 기본 포함이 아닌 명시적 옵트인으로 다시 도입하는지 지켜봐야 한다. 다시 설계된 동의 흐름은 회사가 여전히 Instagram에 연결된 개인화 생성에 전략적 가치를 본다는 신호가 될 것이다.

둘째, Instagram 설정 문구와 사용자 알림의 변화를 주시해야 한다. 통제가 더 눈에 띄거나 더 세분화된다면, Meta가 단순히 하나의 기능을 제거하는 것이 아니라 거버넌스를 강화하고 있음을 시사한다.

셋째, 규제 당국이나 개인정보 보호 옹호자들이 공개적으로 반응하는지 보아야 한다. 공식 조사 없이도 이 사건은 AI 이미지 생성 내부에서 공공 데이터 사용을 둘러싼 논쟁의 기준점이 될 수 있다.

마지막으로 OpenAI, Sora, 그리고 다른 플랫폼들이 허가 기반 외형 기능을 어떻게 다루는지 지켜봐야 한다. 시장이 명시적 신원 라이선스나 사용별 동의 쪽으로 이동한다면, Meta의 실패한 출시는 초기 경계 설정의 순간으로 보일 수 있다.

Creati.ai 관점

Muse Image의 철회는 생성형 AI 출시에서 가장 어려운 부분이 종종 모델이 아니라 사용자와의 제품 계약이라는 점을 상기시킨다. Meta는 공개 Instagram 콘텐츠를 창의적 입력 계층으로 바꾸려 했지만, 그 사진들이 갖는 사회적 의미는 제품의 암묵적 권리와 맞지 않았다. AI, 특히 실존 인물의 이미지를 다룰 때, “이용 가능”은 “수용 가능”과 같지 않다.

업계에는 유용한 경고다. AI 이미지 생성이 소비자 플랫폼 전반으로 확산되면서, 동의를 단순한 설정 토글로 취급하는 팀은 계속 반발을 맞게 될 것이다. 더 지속 가능한 길은 명확한 안내, 쉬운 제어, 강력한 오용 방지를 뒷받침하는 명시적이고 맥락적인 허가다. 이는 출시를 늦출 수 있지만, 사용자와 기업이 신뢰할 수 있는 AI 제품을 내놓기 위한 대가로 점점 더 중요해지고 있다.