매일 수많은 사용자가 자신의 얼굴 사진을 데이팅 앱에 업로드하며, 이 데이터가 어디에 어떻게 쓰이는지 일일이 확인하는 사람은 드물다. 최근 Clarifai(안면 인식 및 이미지 분석 AI 플랫폼)가 과거 OkCupid(사용자 간 매칭을 돕는 데이팅 앱)로부터 확보했던 300만 장의 사용자 사진을 삭제하고, 이를 활용해 구축했던 모든 AI 모델을 폐기했다는 사실이 드러났다. 이는 단순히 데이터를 지우는 수준을 넘어, 무분별한 데이터 수집이 향후 기업의 자산 가치를 어떻게 훼손할 수 있는지 보여주는 사례다.

Clarifai의 데이터 삭제와 FTC의 조사 결과

이번 조치는 미국 연방거래위원회(FTC, 소비자 보호를 담당하는 정부 기관)의 조사 결과에 따른 후속 조치다. 조사 내용에 따르면 Clarifai는 2014년 당시 OkCupid 경영진으로부터 투자를 받은 직후, 해당 앱에 업로드된 사용자 사진과 인구 통계학적 정보, 위치 데이터를 확보했다. 당시 Clarifai의 창업자이자 CEO인 Matthew Zeiler는 OkCupid 공동 창업자 Maxwell Krohn에게 보낸 이메일에서 OkCupid가 보유한 방대한 데이터를 AI 학습에 활용하겠다는 의지를 명확히 드러냈다. 이후 Clarifai는 이 데이터를 활용해 인물의 나이, 성별, 인종을 추정하는 안면 인식 도구를 개발했다. 2019년 언론 보도를 통해 이 사실이 공론화되자 FTC는 즉각 조사에 착수했고, 지난달 Match Group(OkCupid의 모기업)과 Clarifai 간의 합의가 마무리되면서 데이터 삭제가 공식화되었다.

기존 데이터 활용 관행과 달라진 규제 기준

예전에는 기업 간의 투자 관계나 비공식적인 협의를 통해 사용자 데이터를 공유하는 것이 관행처럼 여겨지기도 했다. 하지만 이제는 서비스의 개인정보 처리 방침이 단순한 문구에 그치지 않고 법적 구속력을 갖는 핵심 기준이 되었다. OkCupid는 당시 자체 개인정보 보호 정책에서 이러한 데이터 공유를 금지하고 있었음에도 불구하고, 이를 위반하여 데이터를 제공했다는 혐의를 받았다. 과거에는 데이터 수집의 출처를 명확히 밝히지 않아도 기술 개발이라는 명목하에 묵인되는 경우가 많았으나, 이제는 데이터의 출처가 불분명하거나 사용자 동의를 거치지 않은 경우 해당 데이터로 학습된 모델 전체를 폐기해야 하는 상황에 직면하게 되었다. 이는 AI 모델의 무결성을 증명해야 하는 개발팀 입장에서 데이터 거버넌스(데이터의 수집부터 폐기까지의 관리 체계)가 기술력만큼이나 중요한 역량이 되었음을 시사한다.

데이터를 활용하는 모든 기업은 이제 데이터의 출처와 사용 목적을 투명하게 증명할 수 있는 시스템을 갖추어야 하며, 그렇지 못할 경우 학습된 모델 전체를 폐기해야 하는 리스크를 감수해야 한다.