"s particularly powerful when it"

리처드 소처(Richard Socher)가 자가 개선 AI의 잠재력을 설명하며 던진 말이다. 그는 최근 6억 5천만 달러의 투자금을 확보한 Recursive Superintelligence(재귀적 초지능을 연구하는 스타트업)를 설립하고 AI가 스스로를 재설계하는 시대를 예고했다.

6억 5천만 달러의 투자와 재귀적 초지능 팀

Recursive Superintelligence(재귀적 초지능을 연구하는 스타트업)는 샌프란시스코에서 6억 5천만 달러의 투자금을 확보하며 모습을 드러냈다. 이 기업의 핵심 목표는 인간의 개입 없이 스스로 약점을 식별하고 이를 수정하기 위해 자신을 재설계하는 재귀적 자가 개선 AI 모델을 구축하는 것이다. 이는 현대 AI 연구의 성배로 불리는 영역으로, 아이디어 구상부터 구현과 검증에 이르는 연구 전 과정을 자동화하는 것을 지향한다.

팀의 구성원은 AI 분야의 저명한 연구자들로 채워졌다. You.com(초기 챗봇 스타트업)의 창업자인 리처드 소처를 필두로 피터 노빅(Peter Norvig)과 Cresta(기업용 AI 고객 경험 플랫폼)의 공동 창업자인 팀 시(Tim Shi)가 합류했다. 또한 Google DeepMind(구글의 AI 연구 부서)에서 오픈엔디드니스와 자가 개선 팀을 이끌며 세계 모델인 Genie 3(사용자가 정의한 개념과 세계를 생성하는 인터랙티브 모델)를 개발한 팀 록태셸(Tim Rocktäschel)이 참여했다. OpenAI의 초기 멤버이자 Codex(코드를 생성하는 AI 모델) 팀과 딥 리서치 팀을 이끌었던 조쉬 토빈(Josh Tobin) 역시 팀의 일원으로 이름을 올렸다.

오픈엔디드니스와 상호 진화의 메커니즘

기존의 자동 연구 방식은 AI에게 특정 시스템의 개선을 요청하는 수준에 머물렀다. 예를 들어 AI에게 머신러닝 시스템의 효율을 높이거나 편지를 더 잘 쓰게 만드는 작업은 단순한 개선일 뿐, 시스템 자체가 스스로를 재설계하는 재귀적 자가 개선과는 거리가 멀다. Recursive Superintelligence(재귀적 초지능을 연구하는 스타트업)는 이를 해결하기 위해 오픈엔디드니스(Open-endedness, 끝없이 새로운 가능성을 탐색하며 진화하는 성질)라는 개념을 도입한다.

생물학적 진화 과정에서 동물들이 환경에 적응하고, 다시 다른 개체들이 그 적응에 대응하며 수십억 년 동안 진화해온 방식이 관찰된다. 인간의 눈이 발달한 과정이 이와 같다. 연구팀은 이러한 생물학적 메커니즘을 AI에 적용하여, 두 개의 AI가 서로를 공격하고 방어하며 함께 진화하는 방식을 제안한다. 이는 사이버 보안에서 취약점을 찾기 위해 공격자 역할을 하는 레드팀ming(Red Teaming) 방식을 LLM(거대 언어 모델) 맥락으로 확장한 것이다.

사이버 보안의 레드팀ming(취약점을 찾기 위해 공격자 역할을 하는 팀) 방식이 LLM(거대 언어 모델)에 적용되면 레인보우 팀ming(Rainbow Teaming, 두 AI가 서로 공격하고 방어하며 함께 진화하는 방식)이 된다. 첫 번째 AI가 안전 가이드라인을 지키려 하면, 두 번째 AI는 첫 번째 AI가 금지된 답변을 하도록 수백만 번의 반복 시도를 통해 공격한다. 이 과정에서 AI는 단순한 한두 가지 각도가 아니라 수많은 공격 경로를 학습하게 되며, 이를 통해 첫 번째 AI는 더욱 견고하게 보완된다. 이러한 상호 진화 방식은 현재 주요 AI 연구소들에서도 채택하고 있는 핵심 기법이다.

개발자가 체감할 변화는 제품 출시 주기에서 나타난다. 리처드 소처는 팀의 진척 속도가 예상보다 빨라 제품 출시 일정을 앞당길 수 있다고 밝혔다. 구체적인 제품 형태는 공개되지 않았으나, 출시까지 걸리는 시간은 년 단위가 아니라 분기 단위가 될 것이라고 명시했다. 이는 연구 중심의 네오랩(Neolab, 제품보다 연구를 우선시하는 신세대 AI 스타트업)의 형태를 넘어 실제 시장에서 작동하는 상용 제품을 빠르게 내놓겠다는 의지로 해석된다.

지능의 한계가 천문학적이라면 이제 경쟁의 본질은 알고리즘의 정교함이 아니라 이를 가속할 연산 자원의 확보로 옮겨간다.