OpenAI 국가 안보 원칙 발표와 한국 포함 9개국 협력
챗봇이 일상적인 이메일 작성을 돕는 단계를 넘어 국가 보안이나 국방 같은 민감한 영역에 도입된다면, 그 도구의 사용 기준은 누가 어떻게 정해야 하는가. OpenAI는 정부 파트너십과 기술의 국가 안보 활용 방식을 투명하게 공개하는 국가 안보 원칙(National Security Principles)을 발표했다. 민주주의 사회가 AI를 통해 사람을 보호하고 핵심 인프라를 방어하며, 공공 서비스 제공과 사이버 방어 및 바이오 보안 같은 신종 위협에 대응하는 능력을 갖추는 것이 목적이다. 다만 이 과정에서 권력이 집중되지 않도록 민주적 책임성과 인간의 판단, 법치주의를 강화하는 방향으로 배포한다는 방침이다.
OpenAI는 사이버 방어 프로그램인 Daybreak를 통해 한국을 포함한 주요 동맹국과 신뢰 기반 액세스(Trusted Access, 검증된 파트너에게 제공하는 제한적 접근 권한) 파트너십을 체결했다. 구체적인 협력 대상은 한국, 미국, 호주, 캐나다, 일본, 프랑스, 독일, 폴란드, 네덜란드 및 유럽연합 사이버 보안 기관인 ENISA(European Union Agency for Cybersecurity)다. 이 파트너십은 AI가 방어자에게 실질적인 이점을 줄 수 있는 사이버 및 바이오 보안 분야의 방어적 임무를 수행하는 데 집중한다.
영국 정부와는 사이버 보안을 비롯해 시스템 테스트 및 평가 분야에서 신뢰 관계를 기반으로 한 파트너십을 운영하고 있다. 이번 원칙 수립을 위해 OpenAI는 국가 안보 전문가인 데이비드 크리스(David Kris)를 영입해 독립적인 판단을 구했다. 이와 함께 사내 리스닝 세션을 진행하여 연구, 안전, 정책, 정부 파트너십 등 서로 다른 팀에 소속된 직원들의 의견을 수렴하는 전사적 노력을 기울였다. 이는 기술의 고도화에 따라 법 집행 기관과의 협력 방식을 보다 체계적으로 정립하기 위한 조치다.
GPT-Rosalind 제공과 3대 활용 금지 원칙
AI가 바이러스 분석이나 백신 개발 같은 생물학적 데이터에 접근하는 순간, 그 기술은 치료제가 될 수도 있고 치명적인 무기가 될 수도 있다. OpenAI는 이러한 위험을 관리하기 위해 바이오 보안 전용 모델인 GPT-Rosalind의 접근 권한을 제한적으로 운영한다. 이 모델은 공중 보건과 바이오 방어 임무를 수행하는 일부 미국 정부 및 동맹 파트너에게만 신뢰 기반 액세스(Trusted Access, 신원과 목적이 검증된 사용자에게만 부여하는 접근 권한) 형태로 제공된다. 방어 목적의 AI 활용 범위를 넓히면서도 기술 오용의 가능성을 원천적으로 차단하려는 조치다.
기술 제공과 동시에 인권과 안전을 위협하는 특정 용도에 대해서는 엄격한 계약상 제한을 둔다. 우선 대량 국내 감시(mass domestic surveillance, 국가 내 다수 시민을 대상으로 한 무차별적 감시) 용도로 OpenAI 기술을 사용하는 것이 금지된다. 또한 자율 무기 체계(autonomous weapons systems, 인간의 개입 없이 목표를 선정하고 공격하는 무기)를 직접 지휘하는 용도로도 기술을 활용할 수 없다. 마지막으로 개인의 권리나 생명에 중대한 영향을 미치는 고위험 자동 결정(high-stakes automated decisions) 용도로 AI를 사용하는 것 역시 계약상 불가능하다.
이러한 3대 금지 원칙은 기존의 국방부(Department of War) 협력을 포함해 현재와 미래의 모든 국가 안보 및 법 집행 파트너십에 동일하게 적용된다. OpenAI는 올해 초 국방부와의 계약 당시부터 이러한 제한 사항을 명시했으며, 이를 이번에 공개한 국가 안보 원칙과 일치시켰다. 방어 역량 강화라는 실익은 챙기면서도 AI가 민주적 가치를 훼손하는 도구로 전락하는 것을 막기 위한 안전장치다. 기술적 지원 범위는 확대하되 사용처에 대해서는 타협 없는 기준을 설정했다.
민주적 책임성과 입법 가이드라인 지지
기술의 발전 속도는 법과 제도가 따라잡는 속도를 앞지른다. OpenAI는 민주 사회가 AI를 활용해 사람을 보호하고 핵심 인프라를 방어하며 공공 서비스를 제공해야 한다고 밝혔다. 다만 AI 배포 과정에서 민주적 책임성(시민에 대한 책임)과 의미 있는 인간의 판단, 그리고 법치주의 강화 원칙을 반드시 준수해야 한다고 명시했다. AI가 특정 집단에 권력을 집중시키기보다 민주적 제도를 강화하는 방향으로 작동해야 한다는 관점이다.
OpenAI는 국내 감시나 자율 무기 체계 같은 고위험 군사적 AI 활용을 제한하는 입법 노력에 지지를 보냈다. 이는 기술의 오남용을 막기 위해 기업의 자율 규제를 넘어 법적 강제성을 가진 가이드라인이 필요하다는 판단에 근거한다. 특히 대량 감시나 자율 무기 지휘와 같이 국가 안보에 직접적인 영향을 주는 고위험 활용 사례에 대해 명확한 안전장치를 마련하는 입법적 조치를 강조했다. 이러한 입법 지지는 AI의 군사적 운용이 민주적 통제 아래 있어야 한다는 원칙을 구체화한 것이다.
기업의 역할은 최종 결정자가 아닌 민주적 의사결정을 돕는 정보 제공자로 정의했다. 특히 국가 안보와 관련된 가장 중대한 질문들은 기업 내부의 판단이 아니라 민주적 절차를 통해 답을 찾아야 한다는 입장이다. OpenAI는 기술 제공자로서 정보를 투명하게 공개해 정부와 시민 사회가 올바른 결정을 내리도록 돕는 것에 집중한다. 상세한 원칙 내용은 공식 페이지인 https://openai.com/index/national-security-principles/ 에서 확인할 수 있다.
AI가 일상적인 업무 보조를 넘어 국가 안보와 국방이라는 민감한 영역으로 진입했다. 이번 발표는 기술적 가능성을 확장하는 동시에 대량 감시, 자율 무기, 고위험 자동 결정이라는 세 가지 금지선을 명확히 그었다는 점에서 의미가 있다. 안보 AI의 실효성은 모델의 성능 그 자체가 아니라, 설정된 제한 사항을 얼마나 엄격하게 준수하느냐에 따라 결정된다. 공식 페이지에 공개된 국가 안보 원칙을 통해 구체적인 금지 기준과 협력 범위를 확인하며 실제 도입 시의 판단 근거로 활용할 수 있다.
