비밀 레시피를 상상해 보자. 모두가 알면 함께 배우고 발전하기 좋지만, 나쁜 사람이 알면 음식을 망칠 방법을 쉽게 찾을 수 있다. 왜 공유를 좋아하던 회사가 갑자기 문을 잠그고 레시피를 숨기기로 했을까?

Cal.com 5년 공유 끝내고 코드 숨긴 결정

Cal.com(약속 시간을 잡는 도구)이 그동안 모두에게 공개했던 코드를 이제는 숨기기로 했다. 5년 동안은 누구나 코드를 보고 고칠 수 있는 오픈소스(누구나 코드를 볼 수 있는 방식)로 운영했다. 오픈소스는 전 세계 사람들이 함께 힘을 합쳐 더 좋은 프로그램을 만드는 멋진 방법이다. 모르는 사람이 코드를 보고 틀린 부분을 알려주면 더 빠르게 발전할 수 있기 때문이다.

하지만 이제는 클로즈드 소스(코드를 꽁꽁 숨기는 방식)로 바꾼다. 대신 Cal.diy(개인 사용자가 집에서 직접 설치해 쓰는 버전)라는 이름으로 일부 기능만 MIT 라이선스(누구나 자유롭게 가져다 쓸 수 있게 허락하는 규칙)를 통해 다시 공개했다. 회사는 고객의 소중한 정보를 지키기 위해 이런 어려운 결정을 내린 것으로 보인다.

AI가 27년 된 약점을 몇 시간 만에 찾는 세상

예전에는 나쁜 해커가 프로그램의 약점을 찾으려면 아주 오랜 시간 공부하고 노력해야 했다. 마치 아주 복잡한 미로에서 출구를 찾는 것처럼 시간이 많이 걸리는 일이었다. 하지만 이제는 AI가 코드를 순식간에 읽고 어디가 약한지 바로 찾아낸다. 사람이 며칠 동안 끙끙대며 찾을 구멍을 AI는 단 몇 초 만에 찾아낼 수 있다.

실제로 BSD 커널(컴퓨터의 가장 기초가 되는 핵심 프로그램)에서 27년 동안 아무도 몰랐던 약점을 AI가 단 몇 시간 만에 찾아내 공격 방법까지 만들어낸 일이 있었다. 코드를 공개하는 것은 이제 도둑에게 금고 설계도를 공짜로 주는 것과 같아졌다. AI가 너무 똑똑해지면서 코드를 공개하는 위험이 훨씬 커진 것으로 분석된다.

소프트웨어를 만드는 방식의 변화

이제는 무조건 공유하는 것이 정답이 아닌 시대가 되었다. AI 보안 스타트업(AI로 보안을 지켜주는 작은 회사들)들이 계속해서 새로운 공격 방법을 찾아내기 때문에, 한 번의 방어만으로는 부족하다. 개발자들은 이제 코드를 짜기 전부터 AI가 어떻게 공격할지를 먼저 고민해야 한다. 단순히 기능을 잘 만드는 것보다 AI의 눈을 피하거나 빠르게 막는 능력이 더 중요해졌다.

6개월 뒤의 개발 현장에서는 코드를 한 줄 쓸 때마다 AI가 이 부분을 어떻게 공격할지 미리 검사하는 도구가 필수적으로 쓰일 것으로 예상된다. 앞으로는 코드를 공개하기 전에 AI가 찾을 수 있는 약점이 없는지 수만 번 확인하는 과정이 필수적이 될 것이다. 결국 보안이 완전히 해결될 때까지는 정보를 숨기는 것이 가장 안전한 방법이 되었다고 판단된다.

AI가 소프트웨어를 만드는 규칙을 완전히 바꾸고 있다. 이제는 공유의 가치보다 안전의 가치가 더 앞서는 시대로 접어들고 있다.