발표에서 확인된 핵심 사실
복잡한 코딩이나 어려운 수학 문제를 풀 때 AI에게 도움을 받는 일은 이제 일상이 되었다. 하지만 최근 Anthropic의 Fable과 Mythos 모델은 미국 정부의 수출 통제 조치로 인해 갑작스럽게 서비스가 중단되었다.
6월 9일 Fable이 출시된 지 단 3일 만인 6월 12일, 미국 정부가 수출 통제를 적용했다. 미국 시민권자가 아닌 사용자나 직원에게 모델을 제공하는 것이 법적으로 불가능해진 상황이다. 모든 사용자의 신원을 일일이 확인하기 어렵고 법적 처벌 위험이 크다는 판단에 Anthropic은 결국 모델을 회수했다.
안전을 위해 설치한 분류기(입력 내용이 위험한지 걸러내는 필터)가 너무 예민하게 작동하는 문제도 발견되었다. C++로 작성된 RNA-seq(유전체 서열 분석) 데이터 분석 도구인 salmon을 Rust 언어로 다시 작성해달라는 요청이 대표적이다. 단순한 소프트웨어 변환 작업이었지만, 문서와 코드에 포함된 생물학 용어를 위험 신호로 인식해 요청을 거부했다.
안전 특화 모델을 도입할 때 도메인 특수 용어가 포함된 작업에서 발생할 수 있는 거부 리스크를 신중히 살펴야 한다. 기술적 요청임에도 특정 단어만으로 차단되는 과잉 반응이 업무 효율을 떨어뜨릴 수 있기 때문이다.
협상 후 수출 통제가 해제되어 Fable은 일반 공개되었으나
복잡한 코딩이나 수학 문제 풀이를 AI에게 맡기는 일은 이제 일상이 됐다. 최근 몇 주 동안 이어진 협상 끝에 수출 통제가 해제되면서 모델 접근 권한이 다시 복구됐다. Fable은 누구나 이용할 수 있는 일반 공개 상태가 되어 접근성이 넓어졌다. 하지만 Mythos는 여전히 사전 승인을 받은 특정 파트너에게만 제공되는 제한적인 운영 방식을 유지하고 있다.
사용자가 체감하는 유용함은 모델이 설정한 안전 기준에 따라 크게 갈렸다. Fable은 안전상의 이유를 들어 salmon이라는 소프트웨어를 Rust(컴퓨터가 빠르게 처리하도록 돕는 프로그래밍 언어)로 포팅하는 작업을 거부했다. 포팅은 기존의 프로그램 코드를 다른 언어로 옮겨 심는 과정이다. 질문의 문구와 표현을 바꿔가며 15분에서 30분 동안 계속 시도했지만 모델은 끝내 요청을 들어주지 않았다.
결국 사용자는 Fable을 포기하고 Opus 4.8 모델로 작업을 옮겼다. Opus 4.8은 거부감 없이 요청에 응했고 주어진 포팅 작업을 훌륭하게 완수했다. 같은 요청임에도 모델에 따라 작업 성공 여부가 완전히 달랐다.
안전 기능을 강화한 모델일수록 전문 용어가 포함된 기술적 요청을 위험한 작업으로 오인해 거절할 가능성이 크다. 특히 특정 도메인의 특수 용어가 포함된 작업에서는 모델이 이를 유해한 요청으로 분류해 차단하는 거부 리스크가 발생한다. 작업의 성격에 따라 안전 특화 모델의 엄격함이 오히려 생산성을 떨어뜨리는 결과로 이어진다.
확인해야 할 핵심 지점
무료로 제공되는 안전장치가 항상 이득만 주는 것은 아니다. 위험을 막으려는 과한 설정은 때로 도구의 쓸모 자체를 앗아가는 비용으로 돌아온다.
미국 정부와 합의를 마친 Anthropic은 7월 1일 Fable을 다시 출시했다. 이번 재출시 과정에서 이전보다 더 엄격한 안전장치(stricter safeguards, 유해 콘텐츠 생성을 막는 필터링 시스템)를 적용했다. 안전 기준을 높여 위험 요소를 원천 차단하겠다는 의도다.
정작 사용자들이 마주한 결과는 당혹스럽다. 생물학자들은 미토콘드리아(세포 내 에너지 생성 기관)가 무엇인지 묻는 기초적인 질문조차 거부당했다. 저녁 메뉴를 추천해달라는 일상적인 요청까지 차단되는 사례가 속출했다. 특정 단어가 포함되면 문맥을 살피지 않고 즉시 답변을 막는 분류기가 너무 예민하게 작동한 결과다.
전문 지식이 필요한 작업일수록 이런 거부 리스크는 커진다. 생물학이나 화학처럼 안전 분류기가 민감하게 반응하는 도메인 용어를 사용할 때 AI가 갑자기 작동을 멈출 수 있기 때문이다. 안전 특화 모델을 도입할 때는 기술적 용어가 차단 트리거로 작동해 업무 흐름을 끊지 않는지 확인해야 한다.
복잡한 코딩이나 수학 문제를 AI에게 맡기는 일이 일상이 된 지금, 특정 단어 하나에 작업이 멈추는 경험은 당혹스럽다. 맥락과 상관없이 금지어만 찾아내는 필터는 마치 신분증 확인 없이 옷 색깔만 보고 출입을 막는 보안 요원과 같다.
안전 특화 모델을 도입할 때는 도메인 전문 용어가 차단 트리거로 작동해 업무 흐름을 끊지 않는지 꼼꼼히 살펴야 한다. 결국 AI의 가치는 무조건적인 차단이 아니라 정교한 맥락 이해에서 결정된다.
