프라이빗 AI 추론을 가능하게 하는 오픈소스 컴파일러

데이터 유출을 막는 종단간 암호화는 서비스 제공자가 데이터를 읽지 못해 기능을 제공할 수 없고, 기기에서 직접 처리하는 로컬 방식은 성능 한계와 모델 IP(지식재산권) 유출 위험이 있다. 데이터 내용을 숨기면서도 계산은 가능하게 만드는 동형 암호(Homomorphic Encryption)가 이 보안과 기능 사이의 충돌을 해결한다. 암호화된 상태 그대로 데이터를 처리하는 이 기술의 운용 비용은 현재 빠르게 낮아지는 추세다.

Google은 프라이빗 AI 추론을 구현하는 오픈소스 컴파일러 HEIR를 공개했다. HEIR는 Google의 Private Computing Toolkit에 추가된 최신 도구다. 컴파일러는 사람이 작성한 코드를 컴퓨터가 실행할 수 있는 형태로 바꿔주는 번역기다. HEIR는 이 번역 과정을 통해 암호학적으로 안전한 AI 추론 환경을 구축하도록 돕는다.

HEIR는 암호화되지 않은 기존 AI 모델을 암호화된 입력값으로 작동하는 모델로 변환한다. 데이터가 암호화된 상태에서도 AI가 올바른 결과를 내놓도록 모델의 구조를 재구성하는 도구 모음을 제공한다. 이를 통해 서비스 제공자는 데이터 원본을 전혀 알지 못하면서도 AI의 추론 기능을 사용자에게 제공할 수 있다.

기술이 실제로 작동하는 방식

서버가 원본 정보를 전혀 보지 않고 암호문 상태로 처리해 결과를 반환하는 구조로 바뀌었다. 동형 암호(Homomorphic Encryption, 데이터를 암호화한 상태에서 연산하는 기술)를 쓰면 서버가 기본 정보를 노출하지 않고 암호문(ciphertexts)을 처리해 암호화된 결과를 돌려준다. 클라우드 서비스가 사용자의 특성 데이터를 직접 읽지 않고도 맞춤형 콘텐츠 추천 기능을 제공하는 식이다. 암호화된 데이터 위에서 직접 연산을 수행하므로 데이터 보안을 유지하면서도 AI의 분석 기능을 그대로 사용할 수 있다.

HEIR(Homomorphic Encryption Intermediate Representation, 동형 암호를 위한 오픈소스 컴파일러 툴체인 및 개발 플랫폼)는 기존의 사전 학습된 AI 모델을 암호화된 입력값에서도 작동하도록 변환한다. 비전문가도 실제 프로덕션 애플리케이션에 암호화된 추론 기능을 통합할 수 있는 원클릭 솔루션을 목표로 한다. 복잡한 암호화 변환 과정을 자동화해 개발자가 암호학 전문 지식 없이도 보안 추론 시스템을 구축하게 돕는다. 암호화되지 않은 데이터로 학습된 기존 모델을 암호화된 환경에서도 그대로 구동하게 만드는 가교 역할을 수행한다.

성능 향상을 위해 하드웨어 가속기 업체 및 글로벌 학계

암호학 전문가 팀을 따로 꾸려야만 프로그램을 동형 암호(데이터를 암호화한 상태로 연산하는 기술)에 맞게 효율적으로 변환할 수 있었던 높은 진입 장벽이 낮아졌다. 구글은 이런 사용성 문제를 해결하고 더 많은 프로그램에 동형 암호를 적용하기 위해 HEIR 컴파일러(프로그래밍 언어를 컴퓨터가 이해하는 기계어로 바꿔주는 도구) 프로젝트를 구축해 개발자가 쉽게 접근할 수 있는 환경을 만들었다. 이제는 복잡한 암호학 지식이 없어도 효율적인 동형 암호 프로그램을 직접 구현할 수 있다.

Belfort, Niobium, Cornami, Optalysys 같은 하드웨어 가속기(연산 속도를 빠르게 높여주는 전용 칩) 개발사들이 HEIR의 성능을 높이는 파트너로 참여했다. Georgia Tech, Carnegie Mellon, UC Santa Barbara를 비롯해 Illinois Institute of Technology, Purdue, University of Edinburgh, Tsinghua University 등 여러 대학도 HEIR를 연구 플랫폼으로 활용하며 암호화 연산의 효율성을 연구하고 있다. 하드웨어 설계사와 글로벌 학계의 최적화 작업이 동시에 진행되며 실제 구동 속도를 끌어올리는 구조다.

이제 암호학 전문가 팀을 직접 구성하지 않고도 기존 AI 모델을 프라이빗 AI로 전환할 수 있는 개발 진입 장벽이 낮아졌다.