10년 넘은 난제 10개를 해결한 Astra와 2,000달러의 비용

10년 이상 학계에서 진전이 없던 수학 및 이론 컴퓨터 과학의 난제 10개가 인공지능 모델을 통해 해결되었다. 이는 수십 년간 인간 전문가들이 해결하지 못한 이론적 한계를 AI가 단기간에 돌파하며 추론 성능의 임계점을 넘었음을 보여준다. 단순한 계산 보조를 넘어 고도의 논리적 전개가 필요한 영역에서 AI가 실질적인 해답을 제시하며 연구 방식의 변화를 이끌고 있다.

해결된 문제는 고차원 기하학부터 코딩 이론, 산술 회로 복잡성, 군론, 연산자 대수, 양자 복잡성, 격자 암호, 극단 조합론까지 매우 폭넓은 분야에 걸쳐 있다. 산술 회로 복잡성은 특정 함수를 계산하는 데 필요한 최소한의 논리 게이트 수를 분석하는 분야이며, 격자 암호는 복잡한 격자 구조를 이용해 보안성을 높이는 암호 체계를 다룬다. 이 문제들은 각 수학 커뮤니티에서 상당한 관심을 받는 주제들이며, 일부는 수학 전반에 걸쳐 광범위한 영향력을 가진 핵심 난제들이다.

이 모든 결과는 차세대 메이저 모델인 Astra의 내부 버전을 사용하여 도출했다. Astra는 정식 출시 전의 내부 모델로, 복잡한 논리 구조를 설계하고 검증하는 능력이 강화된 모델이다. 특히 솔루션을 탐색하는 과정에서 소요된 총 토큰 비용은 Sol API 요금 기준 약 2,000달러에 불과하다. Sol API는 모델이 처리하는 텍스트 단위인 토큰의 양에 따라 비용을 책정하는 인터페이스다. 수십 년의 연구 인력과 시간이 투입되어야 했던 난제들을 단돈 2,000달러의 컴퓨팅 비용으로 해결한 결과다.

이번 성과는 갑작스러운 결과가 아니라 지속적인 추론 능력 강화의 연장선에 있다. 지난 5월에는 아직 출시되지 않은 모델을 활용해 에르되시 단위 거리 추측의 반증을 생성한 사례가 있었다. 에르되시 단위 거리 추측은 평면 위에 놓인 점들 사이의 거리가 1인 쌍의 최대 개수를 예측하는 가설이다. 당시의 반증 생성 작업은 이미 수학 및 이론 컴퓨터 과학 분야의 후속 발전에 영감을 주었으며, 이번 10개 난제 해결은 그 가능성을 구체적인 수치와 범위로 입증한 사례가 된다.

논증 생성부터 Lean 인증서까지의 3단계 구현 공정

Astra 모델은 수학적 논증을 생성하고 이를 정형 데이터로 변환하는 3단계 파이프라인을 적용한다. 첫 번째 단계에서는 Astra 모델이 주어진 문제에 대해 수학적 논증(argument)을 생성하는 작업부터 시작한다. 여기서 논증이란 결론에 도달하기 위해 필요한 논리적 단계와 근거들의 집합을 의미한다. 모델은 기존의 수학적 지식을 조합해 문제 해결을 위한 가설을 세우고 이를 입증하기 위한 논리적 경로를 설계하는 역할을 수행한다.

두 번째 단계는 생성된 논증을 학술 원고(manuscript) 형태로 구체화하는 과정이다. 이 단계에서는 Astra 모델과 인간 전문가가 협업하여 논증의 흐름을 정리하고 학술적 서술 방식을 적용한다. 모델이 생성한 논리 구조를 바탕으로 인간이 내용을 검토하며 누락된 논거를 보완하거나 표현을 정교하게 다듬어 완성도를 높인다. 이는 AI가 도출한 추론 아이디어를 인간이 읽고 평가할 수 있는 표준적인 수학 문서 형태로 변환하여 검증 가능성을 높이는 작업이다.

세 번째 단계에서는 모델이 각 논증을 Lean 인증서로 정형화한다. Lean은 수학적 증명을 컴퓨터가 직접 검증할 수 있게 돕는 정형 증명 보조 언어다. 자연어로 작성된 학술 원고의 논리를 Lean 언어의 문법에 맞게 코드로 변환하여 기계적 검증이 가능한 상태로 만든다. 이 과정을 통해 인간의 검토 과정에서 발생할 수 있는 실수나 논리적 비약을 컴퓨터가 엄격하게 잡아내어 증명의 무결성을 최종적으로 확보한다.

최종 결과물에는 솔루션뿐만 아니라 모델이 각 단계에서 어떻게 생각했는지에 대한 서술(narration)이 함께 공개된다. 서술은 모델이 정답을 찾아가는 과정에서 수행한 내부 사고의 흐름을 텍스트로 기록한 데이터다. 수학적 논증 자체는 시스템이 생성했으나 원고 작성과 Lean 정형화 공정에는 인간이 개입하여 결과물을 정제했다. 최종 결과물의 정확성에 대한 책임은 개발사가 지며 이를 통해 AI의 기여분과 인간의 검토 영역을 명확히 구분한다.

AI 저작권 논란과 연구 협업자로서의 귀속 기준

라이덴 선언(Leiden declaration on AI and Mathematics, AI와 수학에 관한 학계 선언)은 AI가 수학 연구에 깊이 개입하며 발생하는 저작권과 윤리적 우려를 명시한다. 개발사는 AI가 전적으로 생성한 증명에 대해 인간이 단독 저작권을 주장하는 행위를 기만으로 규정한다. 이번 사례에서 핵심이 되는 수학적 논증 자체는 시스템이 단독으로 생성했다. 인간 연구자는 시스템이 내놓은 논증을 바탕으로 학술 원고를 작성하고, 이를 Lean(수학적 증명을 컴퓨터가 검증할 수 있게 돕는 언어) 인증서로 변환하는 정형화 과정에 참여했다. 논리적 뼈대를 세운 주체와 이를 학술적 형식으로 다듬은 주체를 분리해 귀속 기준을 세운 것이다.

결과물의 정확성에 대한 최종 책임은 개발사가 부담한다. 인간이 원고 준비 과정에 참여했음에도 불구하고, 시스템이 생성한 논증의 무결성에 대해 개발사가 책임을 지는 구조를 택했다. 이는 AI가 생성한 증명의 신뢰도를 보장함으로써 연구자가 안심하고 협업할 수 있는 환경을 만들기 위함이다. 개발사는 이러한 협업 모델을 확산하기 위해 ChatGPT for Academic Researchers라는 이니셔티브를 운영한다. 이 프로그램을 통해 전 세계 과학자와 수학자 10만 명에게 최신 ChatGPT 모델에 대한 무료 접근 권한을 부여한다.

10만 명의 연구자에게 제공되는 무료 접근 권한은 AI 모델을 폐쇄적인 도구가 아닌 개방형 연구 협업자로 전환하려는 목적을 가진다. 연구자들이 실제 연구 문제에 모델을 적용하고 그 결과를 학계의 맥락에서 재해석하도록 유도한다. 모델이 제시한 아이디어를 바탕으로 새로운 연구와 발견이 이어지는 선순환 구조를 구축하는 것이 핵심이다. AI 시스템이 정교한 연구 파트너로 진화함에 따라, 기술에 대한 광범위한 접근성을 보장하는 것이 학문적 정의를 내리는 과학자들의 미래를 지원하는 근본적인 방법이라고 판단했다.

고난도 추론 모델의 실무 적용과 검증 자동화의 방향

Bloom, Pohoata, Saha, Goh, Lee 등의 후속 연구를 통해 모델이 도출한 수학적 기여가 실질적으로 확인됐다. Bloom 등은 실수 범위에서 합-곱 추측(sum-product conjecture)이 거짓임을 입증했고, Pohoata는 분할 소수(split primes)와 Elekes-Rónyai 문제를 분석했다. Saha 등은 SETH(강한 지수 시간 가설, 특정 문제의 최단 계산 시간을 예측하는 가설) 환경에서 초상수 차원의 최원거리 쌍 탐색에 이차 시간이 필요하다는 점을 증명했다. Goh와 Hatami는 실수 상의 점-선 입사(point-line incidences)에 대한 통신 복잡성을, Lee 등은 민코프스키 격자(Minkowski grid)의 반복 거리 특성을 연구하며 모델의 추론 결과가 학술적 가치가 있음을 뒷받침했다.

단순한 텍스트 형태의 논증 생성을 넘어 Lean(수학적 증명을 컴퓨터가 검증할 수 있게 돕는 정형 언어)으로 변환하는 능력이 AI 연구 협업자의 핵심 역량으로 부상했다. 기존의 대형 언어 모델이 인간이 읽기 좋은 형태의 추론 과정을 제시했다면, 정형 언어 변환은 논리적 결함이 없는지 컴퓨터가 즉각적으로 판별할 수 있게 한다. 이러한 정형화 능력은 AI가 생성한 가설을 검증하기 위해 투입되던 고도로 숙련된 인간 전문가의 검토 시간을 물리적으로 단축시킨다.

고비용의 인간 전문가 검토 공정은 AI가 정형 인증서를 먼저 생성하고 인간이 이를 최종 확인하는 구조로 대체될 가능성이 크다. 이는 연구 개발의 병목 구간이었던 검증 단계를 자동화하여 전체 공정의 속도를 높이는 결과로 이어진다. 단순한 텍스트 생성 모델을 사용하는 것과 정형 검증이 가능한 모델을 사용하는 것의 차이는 결과물의 신뢰도를 보장하는 방식의 변화에 있다. 고난도 추론 작업의 비용 효율성을 확보하려면 모델의 생각 과정인 서술(narration)과 Lean 인증서를 동시에 산출하여 결과물의 정확성을 기계적으로 검증하는 체계를 도입해야 한다.