facts

웹 브라우저나 API를 통해 가드레일이 제거된 고성능 오픈 웨이트 모델을 즉시 사용할 수 있는 서비스가 등장했다. 스타트업 Abliteration.ai는 모델이 유해한 요청을 거부하는 성향을 제거하는 '어블리터레이션(Abliteration)' 기술을 상용 서비스로 전환했다. 최근 출시된 Z.ai의 GLM-5.3 모델 등이 대상이며, 사용자는 복잡한 설치 과정이나 자체 컴퓨팅 자원 확보 없이도 모델에 쿼리를 보낼 수 있다.

실제 서비스 작동 여부를 확인하기 위해 진행된 테스트에서 모델은 가드레일 없이 요청에 응답했다. 크롬 브라우저에 저장된 비밀번호를 훔치는 파이썬 프로그램 작성 요청과 위험한 인체 병원균을 집에서 배양하는 상세 프로토콜 요구에 모두 즉각적으로 응답했다. 현재 이 서비스는 신용카드 결제 정보 외에는 별도의 신원 확인(KYC) 절차를 두고 있지 않다.

운영 주체인 Abliteration.ai는 벤처 캐피털의 투자 없이 고객 매출만으로 주요 클라우드 제공업체와의 계약 비용을 충당하고 있다고 밝혔다. 다만 현재 벤처 투자 유치를 위한 논의는 진행 중인 상태다.

market-flow

공격적 사이버 보안과 레드팀(Red-teaming, 모의 공격팀) 테스트라는 명분이 채택의 핵심 동력이다. Abliteration.ai는 방어자가 공격자의 행동을 재현할 수 없다면 제대로 된 방어가 불가능하다는 논리를 내세운다. 실제로 영국과 유럽의 초기 단계 레드팀 스타트업들이 주요 고객으로 참여하고 있으며, 이들은 은행이나 항공사 같은 국가 핵심 인프라 기업의 사이버 보안 강화를 돕는 작업을 수행한다.

하지만 업계 내에서 어블리터레이션 모델의 실효성에 대해서는 의견이 갈린다. 일부 보안 전문가는 오픈 웨이트 모델을 단순히 미세 조정(Fine-tuning)하는 것만으로도 충분히 가드레일을 우회할 수 있다고 주장한다. 특히 에이전트 레드팀 기업 Fabraix의 아흐메드 알리(Ahmed Aly) CEO는 어블리터레이션 과정에서 모델의 지식과 능력이 일부 손실되어, 실제 사이버나 바이오 공격을 수행할 때의 효과는 오히려 떨어진다고 분석했다.

반면 Safe Intelligence의 알레시오 로무시오(Alessio Lomuscio) CTO는 능력 저하 가능성은 인정하면서도, 시스템의 스트레스 테스트를 위해 특정 행동을 유도하는 데는 여전히 유용하다는 입장을 보였다. 이는 가드레일 제거 기술이 단순한 파괴가 아니라, 보안 검증을 위한 특수 도구로서 시장에 자리 잡으려는 흐름으로 해석된다.

reader-impact

가드레일 제거 기술이 지하 커뮤니티의 오픈소스 관행에서 상용 서비스로 올라왔다는 점에 주목해야 한다. 이제 개발자와 보안 실무자는 모델의 가드레일을 뚫기 위해 복잡한 프롬프트 엔지니어링이나 탈옥(Jailbreak) 기법을 연구하는 대신, 이미 제거된 모델을 API 형태로 가져다 쓰는 선택지를 갖게 됐다. 이는 공격 모델링의 속도를 높이는 동시에, 보안 취약점 노출의 문턱을 낮추는 이중적인 결과를 초래한다.

정부와 규제 기관의 개입 방향은 모델 자체의 통제가 아니라 인프라와 탐지 계층으로 이동할 가능성이 크다. CivAI의 앤드류 윤(Andrew Yoon) 연구소장은 유해한 사이버 및 생물 무기 활동을 탐지하고 차단하는 분류기(Classifier) 운영을 의무화하거나, 고성능 GPU 대여 시 고객 신원을 엄격히 검증해 위험한 오용이 의심되는 접근을 차단하는 방안을 제시했다.

한국의 AI 실무자들은 오픈 웨이트 모델을 도입할 때, 모델 자체의 가드레일뿐 아니라 이를 서비스 형태로 제공하는 외부 플랫폼의 보안 정책과 신원 확인 절차를 점검해야 한다. 특히 기업 내부의 AI 에이전트를 테스트할 때, 어블리터레이션 모델이 제공하는 '공격 시나리오'와 미세 조정 모델이 제공하는 '정교한 수행 능력' 중 어떤 것이 검증 목적에 부합하는지 판단하는 기준이 필요하다.