주도하여 120개 이상의 기업이 참여하는 Open Secure

120개 이상의 기업이 참여한 Open Secure AI Alliance (OSAA, 오픈 시큐어 AI 얼라이언스)가 결성되었다. Nvidia(엔비디아)가 주도한 이 산업 그룹은 결성 일주일 만에 규모를 확장하며 오픈 소스 AI 노력을 지원하기 위한 산업계 협력 체계를 구축했다. 최근에는 백악관에 오픈 소스 AI를 억제하지 말고 지원할 것을 촉구하는 공개 서한을 보냈으며, 200개 이상의 기술 기업이 이에 서명하며 정책적 변화를 요구했다.

회원사들은 AI 보안 및 거버넌스 강화를 위해 보유한 오픈 소스 기술과 도구를 상호 공유한다. Nvidia는 자체 오픈 모델 제품군과 함께 LLM(대규모 언어 모델) 취약점 스캐너인 Garak(가락)을 제공한다. Okta(옥타)는 에이전트 식별 기술을 개발 중이며, Red Hat(레드햇)은 에이전트 거버넌스 기술을 구축하여 공유하는 방식으로 참여하고 있다. 이는 개별 기업의 보안 도구를 표준화된 오픈 소스 형태로 전환하는 작업이다.

Amazon(아마존)은 오픈 에이전트 구축 도구인 Strands Agents(스트랜즈 에이전트)와 권한 부여 언어인 Cedar(시더)를 기여했다. 기업들이 각자 보유한 식별, 거버넌스, 권한 부여 도구를 개방함으로써 오픈 소스 AI 보안을 위한 구체적인 기술 도구 세트를 확보하는 과정이다.

기술이 실제로 작동하는 방식

AI 사이버 보안 사고의 기밀 보고와 피해자 알림을 위한 가이드라인 제안서가 개발 중이다. 이는 OSAA 내에 구축된 AI 보안 사고 대응 워킹 그룹인 Shared AI Findings Exchange(SAFE)가 주도하는 작업이다. SAFE는 AI 보안 사고가 발생했을 때 이를 기밀로 보고하고, 피해를 입은 대상에게 신속하게 알리는 체계를 구축하는 데 집중한다. 또한 모든 구성원이 사고 사례를 통해 기술적 교훈을 얻고 함께 학습할 수 있도록, 특정 개인이나 조직에 책임을 묻지 않는 비난 없는 분석(blame-free analysis) 가이드라인을 제안한다. 이 제안서의 관리 및 운영 업무는 Linux Foundation이 담당한다.

Microsoft와 Intel, Cisco를 비롯해 BlackRock, Visa 등 다수의 글로벌 빅테크 기업들이 OSAA 멤버로 합류했다. 반면 Anthropic, OpenAI, Google 등 현재 시장을 주도하는 일부 주요 AI 기업들은 멤버 명단에서 제외된 상태다. 인프라 제공사와 금융사, 소프트웨어 기업들이 대거 참여하며 규모를 키웠으나, 핵심 모델 개발사 일부가 빠지며 참여 기업 간의 구성 차이가 뚜렷하게 나타났다.

결성과 빠른 활동은 미국 정부의 중국산 오픈 웨이트 모델 금지

트럼프 행정부가 중국산 오픈 웨이트(Open Weight, 가중치 공개) 모델의 금지를 검토한다는 소식이 전해졌다. 해당 소식이 알려진 후 불과 몇 주 만에 업계의 우려가 공개 서한 발표와 OSAA(Open Source AI Safety Alliance, 오픈 소스 AI 안전 연합) 결성으로 빠르게 이어졌다. 미국 정부의 규제 가능성이 연합체 구성의 직접적인 트리거가 됐다.

OSAA는 개방성이 AI 안전과 보안을 달성하는 가장 중요한 경로 중 하나라고 주장한다. 이들은 오픈 소스 AI 생태계를 강화하는 것이 중국 AI 연구소들이 미국에 가하는 실제적 또는 가상적 위협을 극복하는 최선의 방법이라고 보고 있다. 개방형 모델의 검증 속도가 폐쇄형 모델의 통제 속도보다 빠르다는 전제가 깔려 있다. 보안의 해답을 폐쇄적 통제가 아닌 생태계 전반의 투명성에서 찾겠다는 전략이다.

AI 에이전트 보안 구축 시 개별 기업이 자체 개발하는 대신 Nvidia의 Garak, Amazon의 Strands Agents와 Cedar, Okta의 에이전트 식별 기술, Red Hat의 에이전트 거버넌스 등 참여사들이 공개한 표준 도구셋을 선택지로 활용하라.