AI가 코드를 짜주는 세상이다. 하지만 그 코드를 내 컴퓨터에서 바로 실행하는 건 무섭다. 만약 AI가 실수로 내 소중한 사진을 다 지우거나, 비밀번호를 훔쳐가면 어떻게 될까. 개발자들은 지금 이 불안함과 싸우고 있다.

Zerobox의 0.01초 실행과 기본 차단 정책

Zerobox(AI가 짠 코드를 안전하게 실행하는 보호 상자)가 등장했다. 이 도구는 기본적으로 모든 행동을 금지하는 방식을 쓴다. 아무것도 허락되지 않은 상태에서 시작해, 꼭 필요한 것만 하나씩 허락하는 것이다. 만약 개발자가 실수로 npm(자바스크립트라는 언어의 도구들을 설치하는 프로그램)으로 무언가를 설치하다가 컴퓨터 설정이 바뀌어도 걱정 없다. snapshot(현재 상태를 사진 찍듯 저장하는 기능)을 써서 변경된 내용을 확인하고 원래대로 되돌리면 되기 때문이다. 설치 과정도 매우 간단해서 binary(컴퓨터가 바로 실행할 수 있는 파일 형태) 하나만 받으면 즉시 사용할 수 있다. Zerobox는 AI가 만든 코드를 안전한 가상 공간인 Sandbox(프로그램이 밖으로 영향을 주지 못하게 가두는 가상 공간)에서 돌려 컴퓨터 전체를 보호한다. Zerobox는 AI 코드를 안전하게 가두어 실행하는 가장 빠른 방법이다.

Docker 대비 가벼운 무게와 프롬프트 인젝션 방어

기존에는 Docker(프로그램 실행 환경을 통째로 포장하는 도구)나 VM(컴퓨터 안에 가짜 컴퓨터를 만드는 기술)을 썼다. 하지만 이건 너무 무겁고 느리다. 컴퓨터를 새로 켜는 것처럼 시간이 걸리고 메모리도 많이 잡아먹는다. 반면 Zerobox는 실행하는 데 10ms(0.01초)라는 아주 짧은 추가 시간만 든다. 거의 바로 실행되는 셈이라 개발 흐름이 끊기지 않는다. 또한 Prompt Injection(AI에게 거짓말을 해서 나쁜 행동을 하게 만드는 공격) 문제도 해결한다. AI가 모든 파일을 지워라라는 명령을 받아도, 쓰기 권한이 없는 보호 상자 속에 있다면 아무 일도 일어나지 않는다. 더불어 공급망 공격(만드는 과정에 몰래 나쁜 코드를 넣는 공격)으로 인해 코드가 몰래 외부로 데이터를 보내려 해도 즉시 차단된다. 무거운 가상 환경 없이도 AI의 돌발 행동을 완벽하게 막을 수 있다.

API key 보호와 운영체제별 보안 기술 적용

실무에서는 API key(서비스를 이용하기 위한 비밀번호 같은 열쇠) 관리가 핵심이다. Zerobox는 실제 열쇠를 코드에 넣지 않고도 외부 서비스와 통신하게 해준다. 실제 열쇠는 proxy(중간에서 전달해 주는 도구)가 가지고 있고, 코드에는 임시 이름표만 보여주는 방식이다. 개발자는 Rust(빠르고 안전한 프로그램 언어)나 TypeScript(자바스크립트를 더 꼼꼼하게 만든 언어)로 된 SDK(개발자가 도구를 쉽게 쓰도록 도와주는 꾸러미)를 이용해 이 기능을 구현한다. CLI(검은 화면에 글자를 쳐서 명령하는 방식)를 통해 특정 폴더만 읽게 하거나, 환경변수(프로그램이 실행될 때 참고하는 설정 값) 중 필요한 것만 골라 전달할 수 있다. macOS(맥 컴퓨터 운영체제)에서는 Seatbelt(맥 컴퓨터의 보안 장치)를 쓰고, Linux(리눅스 컴퓨터 운영체제)에서는 Bubblewrap(리눅스 컴퓨터의 격리 도구) 같은 기술을 사용해 꼼꼼하게 막는다. 세밀한 권한 관리가 AI 에이전트의 실무 투입을 앞당길 것이다.

AI가 코드를 짜고 실행하는 단계가 빨라지고 있다. 이제는 성능보다 안전하게 가두는 기술이 더 중요해진 시점이다.