발표에서 확인된 핵심 사실

누구나 인스타그램에서 마음에 드는 사진을 발견하면 캡처해 저장하거나 지인에게 공유하곤 합니다. 하지만 타인의 사진을 AI로 마음대로 변형해 전혀 다른 이미지를 만드는 일은 완전히 다른 차원의 문제입니다. 메타는 공개 계정의 사진을 AI로 수정할 수 있게 했던 논란의 기능을 출시 직후 삭제했습니다.

이번 주 초 다른 AI 도구들과 함께 세상에 나왔지만, 이 기능은 출시와 동시에 거센 비판과 논란의 중심에 섰습니다. 메타는 해당 기능이 목표를 달성하지 못했다고 인정하며 더 이상 제공하지 않기로 결정했습니다. 기술적 구현 가능성보다 사용자가 느끼는 심리적 거부감과 권리 침해 우려가 더 컸음을 공식적으로 시인한 셈입니다.

작동 방식은 매우 간편하고 직접적이었습니다. 사용자가 참조하고 싶은 공개 Instagram 계정을 @-멘션(특정 사용자를 지목해 호출하는 기능)하기만 하면, AI가 해당 계정의 콘텐츠를 참고해 새로운 이미지를 만들어냈습니다. 공개 계정이라는 이유로 타인의 데이터를 AI의 생성 재료로 즉각 활용하는 구조였습니다.

데이터 소유자의 명시적인 동의나 알림 설정 없이 콘텐츠를 참조하는 설계는 서비스 운영에 치명적인 리스크가 됩니다. AI 기능이 주는 시각적 편의성보다 데이터 주권과 사용자 권리 보호가 우선되어야 한다는 판단 기준을 명확히 보여줍니다.

해당 기능은 Meta Superintelligence

인스타그램 공개 계정의 사진을 저장하거나 캡처해 개인적으로 보관하는 일은 흔한 일이다. 메타는 이런 일상적인 행위를 AI 기능으로 구현해 @멘션만으로 타인의 사진을 참조해 이미지를 만드는 기능을 출시했다. 이 기능은 메타가 AI 기술의 비약적인 발전을 위해 별도로 운영하는 전담 부서인 Meta Superintelligence Labs가 개발했다. 전담 조직인 이곳은 Muse Image라는 AI 이미지 생성기를 발표하며 관련 기능을 적극적으로 홍보했다. AI 이미지 생성기는 텍스트나 이미지 같은 데이터를 입력하면 AI가 그 안에 담긴 패턴과 특징을 분석해 완전히 새로운 그림을 그려내는 도구다.

하지만 소셜 미디어 환경에서 AI가 불러온 부작용이 기능의 편의성을 압도했다. AI를 이용해 여성 유명인의 나체 이미지를 무분별하게 생성하는 등 오남용 사례가 쏟아졌기 때문이다. 플랫폼들이 이를 막기 위해 가드레일을 도입했지만 실효성이 낮았다. 가드레일은 AI가 부적절한 요청을 거절하거나 유해한 결과물을 내놓지 않도록 설정한 안전 규칙을 말한다. 마치 도로의 가드레일이 차가 경로를 벗어나지 않게 막아주는 것처럼, AI가 윤리적 선을 넘지 않도록 제어하는 장치다. 이번 사례에서 이 안전장치는 무분별한 생성물을 차단하기에 부족했다는 지적을 받았다.

확인해야 할 핵심 지점

마음에 드는 사진을 캡처하거나 저장해 개인적으로 간직하는 일은 흔하다. 하지만 내 사진이 누군가의 AI 이미지 생성 도구에 쓰이고 있다는 사실을 모른 채 지나친다면 이야기가 달라진다. 메타는 사용자의 사진이 AI 생성에 참조되었을 때 이를 당사자에게 알리는 기능을 설계 단계에서 아예 제외했다. 내 데이터가 어떤 경로로 쓰이는지 전혀 알 수 없는 불투명한 구조가 사용자들의 즉각적인 반발을 불렀으며, 이 점이 이번 논란의 핵심이 되었다.

기능 삭제 결정은 일반 사용자뿐만 아니라 업계의 강한 압박이 작용한 결과다. CAA(Creative Artists Agency, 연예인과 스포츠 스타를 관리하는 글로벌 매니지먼트사) 같은 탤런트 에이전시들이 이 기능을 정밀하게 조사하며 문제를 제기했다. Puck News의 Dylan Byers는 이러한 전문 기관들의 감시와 압박이 메타의 폐지 결정에 결정적인 영향을 줬다고 분석했다. 유명인의 초상권과 직결된 문제인 만큼 전문 기관들의 대응은 매우 정밀하고 빨랐다.

AI 기능을 설계할 때 데이터 소유자에게 명시적인 동의를 받고 알림을 보내는 체계는 필수적이다. 단순히 공개 계정의 데이터라고 해서 무단으로 참조하는 방식은 서비스 운영에 치명적인 리스크가 된다. 사용자가 자신의 데이터 사용 여부를 실시간으로 확인하고 제어할 수 있는 권한을 주는 설계가 서비스의 지속 가능성을 결정하는 핵심 기준이 된다. 데이터 주권을 존중하지 않는 기능은 결국 시장의 신뢰를 잃고 빠르게 사라질 수밖에 없다.

인스타그램에서 마음에 드는 사진을 캡처해 저장하는 일은 흔하지만, 내 사진이 AI의 학습 재료가 되는 것은 전혀 다른 차원의 문제다. 메타는 @멘션만으로 타인의 사진을 참조해 이미지를 만드는 기능을 내놓자마자 지웠다. Muse Image가 공개 계정 데이터를 가져다 쓰면서도 정작 주인에게 알리지 않았기 때문이다.

AI 기능의 편의성보다 데이터 소유자의 명시적 동의와 알림이라는 기본 원칙이 서비스의 리스크를 결정한다. 지금 내 계정의 공개 범위와 데이터 활용 설정을 확인하며 내 데이터의 주권을 점검해볼 때다. 결국 기술의 완성도는 알고리즘이 아니라 사용자의 권리를 얼마나 세밀하게 설계했느냐에서 갈린다.