사실 관계: 예측 기반의 감시 체계와 인력 확충

활동가들의 움직임을 미리 파악해 대응하는 '사전 범죄(pre-crime)' 접근 방식이 Anthropic의 보안 전략으로 도입됐다. 이 시스템의 핵심은 단순한 사후 대응이 아니라, 사건이 발생하기 전 징후를 포착해 경찰에 신고하거나 경로를 변경하는 예측적 관리다. 실제로 Anthropic은 위험 탐지 전문 업체인 샘데스크(Samdesk)와 계약해 실시간 모니터링을 수행하고 있다. 과거 한 임원이 방문한 도시에서 시위 일정이 갑자기 변경되었을 때, 샘데스크가 60분 전에 사전 통보를 보내 임원이 시위대와 마주치지 않고 호텔 서비스 입구로 진입하게 한 사례가 대표적이다.

보안 조직의 규모와 전문성도 강화하는 추세다. 최근 공개된 채용 공고에 따르면, Anthropic은 글로벌 안전·정보·보안(GSIS) 팀에 배치될 '엔터프라이즈 정보 전문가'를 찾고 있다. 해당 직무의 연봉 범위는 18만 달러에서 23만 달러 사이로 책정됐다. 이 전문가의 주된 역할은 지정학적 불안정, 테러, 범죄뿐만 아니라 '활동주의(activism)'를 포함한 글로벌 위협을 식별하고 추적하며, 오픈 소스 인텔리전스(OSINT) 수집을 통해 분석 보고서를 작성하는 것이다.

사용자 데이터의 경찰 신고 사례도 확인됐다. 한 사용자가 클로드(Claude)에게 AR-15 반자동 소총을 구매했으며 CEO 다리오 아모데이(Dario Amodei)를 겨냥하고 있다는 메시지를 남기자, Anthropic은 즉시 샌프란시스코 경찰에 신고했다. 다만, 이 과정에서 Anthropic은 내부 정책을 이유로 경찰에 실제 메시지 로그를 제공하는 것은 거부했다. 이는 플랫폼 내 발언을 근거로 공권력을 움직이면서도, 정작 증거 자료의 제출은 제한하는 독특한 운영 방식을 보여준다.

시장 흐름: '책임 있는 AI'에서 '국가 안보' 자산으로의 전환

이번 감시 시스템 구축은 Anthropic이 지향하던 '책임 있는 AI'라는 브랜드 이미지와는 상충하는 흐름이다. 올해 초까지만 해도 Anthropic은 미 국방부가 자사 도구를 대규모 국내 감시나 자율 무기에 사용하는 것을 거부하며 갈등을 빚었다. 하지만 최근 분위기가 바뀌었다. 회사는 '국가 안보 영업(national security sales)' 담당자를 채용하며 군 계약 재개를 추진하고 있으며, 내부적으로는 국내 반대 세력에 대한 위협 모니터링을 강화하고 있다.

이러한 변화의 배경에는 AI 인프라를 '핵심 인프라(critical infrastructure)'로 지정하려는 움직임이 있다. 미국 책임 혁신 협회(ARI) 등 AI 지지 그룹은 트럼프 행정부에 AI를 물, 전기, 광대역 통신과 같은 수준의 국가 핵심 자산으로 분류할 것을 촉구하고 있다. AI가 국가 경제 및 공공 안전에 치명적인 영향을 미치는 자산으로 인정받게 되면, Anthropic과 같은 프런티어 랩들은 연방 법 집행 기관이나 정보 기관이 생성하는 인텔리전스 제품에 더 쉽게 접근할 수 있게 된다.

결국 기업의 보안 수준을 '산업 표준'에서 '국가 안보' 수준으로 격상시키려는 전략이다. 보안 프로그램 매니저는 팟캐스트 인터뷰를 통해 운영 목표를 '반응적 정보 수집'에서 '선제적, 예측적, 예방적 위협 대응'으로 전환하는 것이라고 명시했다. 이는 고가치 표적(high-value targets)을 보호해야 하는 산업적 필요성을 넘어, 국가 안보라는 명분을 통해 기업의 이익을 보호하고 정부 기관의 위협 정의 방식에 영향력을 행사하려는 흐름으로 해석된다.

실무적 관점: AI 기업의 보안 논리와 데이터 통제권

AI 실무자와 기업 운영자가 주목해야 할 지점은 보안을 명분으로 한 '데이터 통제권'의 비대칭성이다. Anthropic은 사용자의 위험 발언을 감지해 경찰에 알리면서도, 정작 수사 기관에는 상세 데이터를 제공하지 않았다. 이는 기업이 AI 모델을 통해 수집한 정보를 바탕으로 외부의 '위협'을 정의하고 신고할 권한은 갖되, 그 근거가 되는 데이터의 공개 여부는 기업 내부 정책으로 결정하는 강력한 통제권을 행사하고 있음을 의미한다.

또한, AI 인프라의 핵심 인프라 지정 가능성은 향후 규제 리스크의 성격을 바꿀 수 있다. 단순한 개인정보 보호나 윤리 가이드라인의 문제를 넘어, AI 기업의 활동이 '국가 안보'와 직결되는 순간 시민사회의 정당한 비판이나 데이터 센터 건설 반대 운동 등이 '국가 안보 위협'이나 '극단주의'로 낙인찍힐 위험이 커진다. 이는 AI 기업이 사회적 합의보다 국가 권력과의 결탁을 통해 운영 안정성을 확보하려는 선택지를 택했을 때 발생하는 부작용이다.

마지막으로, 고도화된 외부 감시 시스템 도입이 내부 구성원과의 갈등을 해결하지 못한다는 점도 관찰 대상이다. Anthropic은 외부 활동가들을 예측 감시하는 체계를 구축하고 있지만, 정작 캠퍼스를 지키는 보안 요원들은 임금 협상 결렬로 파업을 선언했다. 외부의 '예측 가능한 위협'을 막는 기술적 성숙도가 내부의 '실질적인 경제적 불만'이라는 리스크를 관리하는 데는 한계가 있음을 보여준다.