12만 대 카메라 네트워크와 사건 번호 입력 의무화

전국 12만 대의 카메라 네트워크를 운영하는 Flock 시스템에서 경찰관이 스토킹 등 사적 목적으로 데이터를 남용한 사례 46건이 적발되었다. 워싱턴 포스트(Washington Post)의 조사 결과로 드러난 이 사실은 공공 안전을 위해 구축된 방대한 위치 데이터 저장소가 내부자의 일탈로 인해 개인 감시 도구로 변질될 수 있다는 위험을 확인시켰다. 특히 경찰관이 권한을 남용해 무단 목적으로 데이터를 조회한 사례들이 구체적으로 확인되면서, 시스템 접근 권한을 가진 사용자가 데이터를 조회하는 방식에 강력한 강제 제약이 필요하다는 판단이 내려졌다. 이러한 남용 사례는 공공 데이터의 접근 제어 수준이 실제 운영 환경의 위험을 충분히 반영하지 못했다는 점을 드러냈다.

Flock은 검색을 수행하기 전 범죄 사건 번호(criminal case number, 수사 중인 사건에 부여되는 고유 식별 번호) 입력을 필수 조건으로 전환했다. 해당 시스템은 지난해 선택 사항(option, 사용자가 입력 여부를 결정할 수 있는 상태)으로 처음 도입되었으나, 이제는 반드시 값을 입력해야만 다음 단계로 진행할 수 있는 필수 사항(required)으로 변경되었다. 이는 모든 검색 행위가 정당한 목적(legitimate purpose)을 가지고 수행되는지 검증하기 위한 절차적 장치이며, 입력란을 비워둔 채 검색을 시도하는 행위를 원천적으로 차단하는 구조다.

현재 Flock이 관리하는 120,000대의 카메라 네트워크는 미국 전역의 경찰 부서가 공유하며 거대한 규모의 검색 가능한 위치 데이터 풀(pool, 수집된 데이터가 모여 있는 저장소)을 형성하고 있다. 경찰관은 이 네트워크를 통해 특정 차량의 번호판을 인식하고 이동 경로를 추적함으로써 범죄 용의자를 검거하거나 실종자를 찾는 업무를 수행한다. 그러나 이러한 강력한 추적 능력이 적절한 통제 없이 제공될 경우, 이번에 적발된 46건의 사례처럼 전 연인이나 지인을 스토킹하는 등의 심각한 인권 침해와 데이터 남용으로 이어질 수 있는 구조적 취약점이 존재했다.

이번 변경 사항은 기술 제공사가 사용자에게 편의를 위한 선택권을 주는 방식에서 벗어나, 시스템 차원에서 가드레일(guardrail, 오용을 막기 위해 설정한 강제적 제한 범위)을 직접 구축하는 방향으로 전환했음을 보여준다. Flock의 관계자인 Langley는 기술 기업으로서 단순한 선택지를 제공하는 것이 아니라 가드레일을 강제 집행해야 할 책임이 있다는 입장을 밝혔다. 이는 개별 기능의 추가보다 시스템 설계의 기본 원칙을 필수 적용 방식으로 변경함으로써 내부자의 악의적인 데이터 접근 가능성을 낮추려는 구현 전략이다.

자동 감사 시스템 및 검색 범위 제한 메커니즘

자동 감사 시스템(automatic auditing system, 사용자의 활동 기록을 자동으로 검토하는 체계) 적용이 기존 선택 사항에서 필수 사항으로 변경됐다. 이 시스템은 경찰관이 수행하는 모든 검색 활동 데이터를 수집하고 분석하며 의심스러운 패턴이 감지되면 관리자에게 알림(flag)을 보내는 구조로 작동한다. 분석 대상은 검색 빈도, 조회 대상의 특성, 검색 시간대 등 활동 로그 전반을 포함하며 시스템이 정의한 이상 징후 임계치를 넘을 경우 관리자 계정으로 즉시 통보된다. 관리자는 전달된 알림을 통해 특정 사용자가 정당한 사유 없이 반복적으로 데이터를 조회했는지 혹은 권한 범위를 벗어난 검색을 시도했는지 개별적으로 확인하고 조치한다. 다만 Flock은 이 자동 감사 도구의 구체적인 정확도 수치를 공개하지 않았으며 독립적인 평가 기관에 시스템을 공개해 검증받지 않았다.

기관 간 데이터 공유 과정에서 검색 권한을 제어하는 제한 메커니즘을 도입했다. 타 기관이 수집한 번호판 데이터를 검색할 때 모든 데이터에 무조건 접근하는 것이 아니라 납치 사건과 같이 긴급성이 인정되는 특정 사유가 있을 때만 검색 결과가 출력되도록 설정 범위를 제한한다. 이는 검색 요청 단계에서 입력된 사유가 시스템 내부에 정의된 허용 기준 리스트와 일치하는지 대조하는 필터링 과정을 통해 구현된다. 관리자는 각 기관의 협약 내용과 법적 권한에 따라 검색 가능한 사유의 목록을 세부적으로 지정하며, 리스트에 없는 사유로 요청된 검색은 결과 반환 단계에서 차단된다. 이러한 설정은 기관 간의 데이터 신뢰도를 높이고 무분별한 정보 공유를 막는 기술적 장치로 활용된다.

특정 목적을 위한 데이터 활용을 원천적으로 차단하는 기능도 강화했다. 이민 집행(immigration enforcement, 불법 체류자 단속 및 추방 절차) 등 특정 행정 목적의 검색을 시스템 설정에서 명시적으로 차단할 수 있다. 관리자가 설정 메뉴에서 특정 목적의 검색 권한을 비활성화하면, 해당 목적을 사유로 요청된 모든 검색 쿼리는 실행 단계에서 거부된다. 이 기능은 데이터베이스의 전체 접근 권한을 제어하는 것이 아니라 검색 요청의 목적 필드를 검사하여 처리 여부를 결정하는 방식으로 작동한다. 이러한 제어 기능은 데이터 수집 범위와 별개로 검색 단계에서 권한을 한 번 더 검증함으로써 무분별한 정보 접근을 막는 기술적 가드레일 역할을 한다. 관리자는 이를 통해 기관의 운영 방침에 맞지 않는 검색 활동을 시스템 수준에서 강제할 수 있다.

선택적 가드레일과 강제 적용의 실효성 대비

데이터 보관 권장 기간을 기존 30일에서 7일로 단축했다. 데이터 보관 기간은 시스템이 수집한 차량 번호판 정보를 삭제하기 전까지 서버에 저장하고 유지하는 시간을 의미한다. 이 수치는 시민 자유 단체들이 요구해 온 기본 표준에 해당하며, 시스템의 기본 권장값으로 설정되어 제공된다. 다만 개별 사용 기관이 설정 메뉴에서 이를 오버룰(Overrule, 기본 설정값을 무시하고 다른 값으로 덮어쓰는 것)하여 보관 기간을 다시 늘리는 것이 가능하다. 권장 수치를 4분의 1 수준으로 낮춰 데이터 최소 수집을 유도하려 했으나, 실제 적용 여부는 기관의 선택적 재량에 의존하는 구조다.

미국 시민자유연맹(ACLU)은 검색 사유 입력란에 무의미한 텍스트를 넣어 가드레일을 우회한 구체적인 사례들을 확인했다. 일부 경찰관은 검색 사유를 적어야 하는 필수 칸에 investigation(수사)이라는 포괄적인 단어 하나만 적어 절차를 통과했다. 특히 오리건주의 한 경찰 부서에서는 hehehe라는 무의미한 문자열을 20회나 반복 입력해 시스템의 입력 의무화 조치를 조롱하며 무력화한 사실이 드러났다. 텍스트 입력이라는 형식적 요건만 충족하면 시스템이 즉시 검색 권한을 부여하기 때문에 발생하는 허점이다.

Flock 시스템은 입력된 사건 번호가 실제 수사 기록에 존재하는지 검증(Verify, 데이터의 진위 여부를 외부 기록과 대조하여 확인하는 과정)하는 단계를 수행하지 않는다. 사용자가 실제 사건 번호가 아닌 임의의 숫자 조합을 입력하더라도 시스템은 이를 유효한 입력값으로 인식하고 검색 기능을 활성화한다. 이는 입력 필드를 선택 사항에서 필수 사항으로 변경했음에도 불구하고, 입력된 값의 실재 여부를 판단할 외부 데이터베이스 연동이나 실시간 교차 확인 절차가 구현되지 않았음을 의미한다. 결과적으로 경찰관들은 새로운 가드레일 도입 이전과 마찬가지로 매우 쉽게 시스템을 우회할 수 있다.

이러한 기술적 한계는 시스템 검증 과정의 폐쇄성과 맞물려 실효성 논란을 만든다. Flock은 시스템의 작동 효율과 가드레일의 효과를 입증하기 위해 자체적인 내부 연구 결과를 활용하지만, 이를 독립적인 외부 평가자에게 공개하여 객관적인 검증을 받는 절차를 거치지 않았다. 내부적으로 정의한 성능 지표와 연구 결과만으로는 실제 운영 환경에서 발생하는 입력값 우회 사례와 같은 실무적 허점을 완전히 제거하거나 통제하기 어렵다는 지적이 나온다.

계약 해지 사례와 시장 경쟁 구도 변화

지난 1년간 최소 30개 도시가 Flock과의 계약을 해지했다는 NPR의 보고가 나왔다. Flock은 전체 5,000개 계약 기관 중 해지 건수가 소수에 불과하다고 주장하지만, 구체적인 이탈 수치가 공개되며 시장의 변동성이 드러났다. 대규모 감시에 대한 사회적 반발이 단순한 비판을 넘어 실제 계약 종료라는 물리적 결과로 연결되는 흐름이다.

계약을 해지한 일부 기관은 번호판 인식 시스템 자체를 폐기하는 대신 경쟁사 솔루션으로 교체하는 방식을 택하고 있다. Axon과 Motorola가 주요 대안으로 부상하며 시장 점유율 경쟁이 가속화되는 양상이다. 번호판 인식기(License Plate Readers, 도로 위 차량 번호판을 자동으로 촬영해 데이터베이스와 대조하는 장치) 시장의 주도권이 단순한 기술적 성능을 넘어 운영 투명성과 윤리적 가이드라인이라는 새로운 기준에 따라 재편되고 있다.

법적 규제는 기업 간 경쟁보다 더 강력한 제약 조건으로 작용한다. 일부 주와 지방자치단체에서는 번호판 인식기의 사용을 전면 금지하는 법안을 통과시키며 기술 도입 경로를 차단했다. 이는 특정 벤더의 제품을 기피하는 선택적 거부와 달리, 공공 안전을 위한 기술 활용 범위 자체를 법적으로 제한하는 조치다. 규제 지역이 확대될수록 하드웨어 네트워크를 기반으로 하는 서비스 모델의 확장성은 물리적으로 낮아질 수밖에 없다.

사회적 비판의 수위는 기술의 성격을 규정하는 수준까지 올라갔다. 터커 칼슨(Tucker Carlson)은 해당 기술이 노예 국가(slave state)를 만드는 데 기여하고 있다고 언급하며 감시 체계의 위험성을 경고했다. 이러한 외부 압력은 기업이 기존의 운영 방식을 수정하게 만드는 직접적인 동인이 되었다.

활동가 마를로(Marlow)는 Flock의 최근 변화가 전례 없는 전국적 반발에 직면해 겁을 먹은 결과라고 분석했다. 회사가 감시 남용 우려에 정당하게 대응하기 위해 필요한 실질적인 구조 변화를 거부하고 있으며, 현재 제시한 가드레일이 회사가 양보할 수 있는 최후의 마지노선이라는 주장이다. 이는 기술적 설정 변경만으로는 대규모 감시 체계에 대한 근본적인 불신을 해소하기 어렵다는 시장의 냉정한 평가를 보여준다.

한국 AI 실무자를 위한 공공 감시 기술의 검증 기준

공공 안전 AI를 설계하는 한국의 개발자와 보안 담당자는 입력 필드 추가만으로 가드레일을 구축했다는 착각을 경계해야 한다. 단순히 사건 번호나 검색 사유를 입력하게 만드는 방식은 사용자가 무의미한 텍스트를 입력하는 것만으로 쉽게 우회할 수 있는 구조적 한계가 있다. 실질적인 통제력을 확보하려면 입력된 값이 실제 수사 DB(데이터베이스, 정보 저장소)에 존재하는지 실시간으로 대조하는 외부 연동 검증 체계가 필수적이다. 이는 단순히 사용자에게 성실한 입력을 기대하는 것이 아니라, 시스템이 데이터의 진위 여부를 직접 판별하게 만드는 공학적 접근이다. 입력 단계의 제약보다 데이터 기반의 교차 검증이 보안의 실효성을 결정하는 핵심 장치가 된다.

데이터 보관 주기인 Retention Period(데이터 유지 기간) 설정에서도 권장 사항과 강제 집행의 차이는 명확한 결과의 차이를 만든다. 최근 데이터 보관 권장 기간을 30일에서 7일로 단축하는 변화가 있었으나, 이는 기관의 선택에 따라 오버룰(overrule, 기존 설정을 무시하고 덮어씀)이 가능한 구조로 설계되었다. 한국의 개인정보 보호법과 같은 엄격한 규제 환경에서 대응력을 높이려면, 단순한 권장 설정이 아니라 시스템 수준에서 강제되는 하드 가드레일 설계가 유리하다. 보관 주기 종료 시 관리자의 개입 없이 데이터를 자동으로 완전 삭제하는 강제 집행 메커니즘이 동반되어야만 운영자의 실수나 고의적인 데이터 보유로 인한 법적 리스크를 원천적으로 차단할 수 있다.

신뢰성의 최종 척도는 내부 감사 로그의 기록 여부를 넘어, 이를 독립적 외부 감사(Independent Audit)로 검증할 수 있는 체계에 있다. 기업이 자체적으로 수행한 내부 연구 결과나 내부 관리자에게 전송되는 알림 기능만으로는 시스템의 오남용 방지 효과를 객관적으로 증명하기 어렵다. 외부의 독립적인 평가 기관이나 연구자가 시스템 접근 권한을 가지고 실제 작동 방식과 로그의 일치 여부를 검증할 수 있는 투명한 구조를 갖춰야 한다. 폐쇄적인 내부 감사 시스템은 운영자의 편향이나 내부 결탁이 개입될 가능성이 크며, 이는 공공 기술이 가져야 할 사회적 신뢰를 저해하는 결정적인 요인이 된다. 기술적 완성도보다 중요한 것은 그 완성도를 제3자가 확인할 수 있는 검증 경로의 확보이다.

단순 입력 필드 추가와 실제 데이터 검증 사이의 간극이 보안 가드레일의 실효성을 결정하는 최종 판단 기준이 된다.