사실 관계: 리만 가설 도전 중 발견한 새로운 하한선

리만 제타 함수의 제로 비율 하한선이 41.6%에서 67.2%로 올라갔다. 앤스로픽(Anthropic)의 미출시 연구용 클로드(Claude) 버전이 리만 가설(Riemann hypothesis)이라는 난제에 도전하는 과정에서 찾아낸 결과다. 클로드는 1859년부터 이어진 이 가설 자체를 완전히 증명하는 데는 실패했지만, 가설과 관련된 하한선 수치를 높이는 성과를 냈다.

이번 결과는 단순한 텍스트 생성이 아니라 고도의 연산과 검증 과정을 통해 도출됐다. 클로드는 '클로드 코드(Claude Code)' 환경에서 두 차례의 세션을 거치며 총 3,100만 개의 출력 토큰을 사용했다. 이 과정에서 약 60개의 서브 에이전트를 운용해 2,400개의 셸(shell) 명령어를 실행하고 수백 개의 파이썬 스크립트를 작성했다. 특히 54편의 arXiv 논문을 직접 다운로드해 기존 연구와의 중복 여부를 확인하고, 알려진 제타 제로 값들을 대상으로 수천 번의 수치 검증을 수행했다.

검증 단계에서는 인간 수학자와 형식 검증 도구가 동시에 투입됐다. 앤스로픽 소속 수학자 레벤트 알푀게(Levent Alpöge)와 랄프 퍼먼(Ralph Furman)이 결과물을 검토했으며, 외부 전문가인 브라이언 콘레이(Brian Conrey)와 댄 골드스톤(Dan Goldston)이 논문을 확인했다. 최종적으로는 수학 언어인 Lean을 통해 결과물을 공식화(formalization)하여 표준 검증 도구의 테스트를 통과했다.

흐름 분석: 에이전트 협업과 형식 검증의 결합

추론 과정에서 주목할 점은 60개의 서브 에이전트를 활용한 협업 구조다. 이전의 AI 모델들이 단일 프롬프트에 대해 최선의 답을 내놓는 방식이었다면, 이번 사례는 모델이 스스로 하위 에이전트를 생성하고 서로의 작업물을 심사(referee)하며 오류를 수정하는 '에이전틱 워크플로우'를 보여준다. 이는 AI가 복잡한 수학적 추론을 수행할 때 단순한 확률적 예측이 아니라, 실행 가능한 코드와 수치 검증을 결합한 반복적 루프를 통해 정답에 접근하고 있음을 의미한다.

수학적 접근 방식 역시 기존 연구의 단순 요약이 아닌 '결합'에 집중했다. 클로드는 2000년 bombsieri의 논문과 발루요트(Baluyot), 골드스톤(Goldston), 수리아자야(Suriajaya), 터니지-버터보(Turnage-Butterbaugh) 등의 최신 연구 결과들을 조합했다. 특히 바일(Weil)이 유도한 이차 형식(quadratic form)을 활용해 함수 공간을 구성하고, 비대각(non-diagonal) 이차 형식을 허용하는 과감한 접근을 통해 기존의 41.6%라는 벽을 넘었다.

이러한 흐름은 AI의 역할이 '지식의 검색자'에서 '가설의 확장자'로 이동하고 있음을 보여준다. 리만 가설이라는 거대 난제를 해결하지는 못했더라도, 인간 수학자들이 수십 년간 쌓아온 개별 연구 성과들을 AI가 빠르게 횡단하며 새로운 조합을 찾아내 하한선을 높인 점은 수학적 발견의 속도를 높이는 새로운 채택 경로가 될 수 있다.

실무 관점: 연구 에이전트로의 진화와 관찰 지점

실무자가 주목해야 할 지점은 모델의 '자기 회의'를 다루는 프롬프팅 방식이다. 이번 작업에 참여한 자레드 섬너(Jarred Sumner)는 수학자가 아니었음에도 클로드에게 "제대로 한 번 시도해 보라(take a real stab)"는 요청과 "계속 가라", "너 자신을 믿어라" 같은 격려성 메시지를 보냈다. 모델은 초기 650개의 아이디어가 실패하자 스스로 가능성에 회의적인 반응을 보였으나, 이러한 프롬프팅을 통해 한계를 돌파하고 심층 추론 단계로 진입했다.

또한, AI가 생성한 결과물의 신뢰성을 확보하는 방법으로 '형식 검증(Formal Verification)'의 중요성이 다시금 확인됐다. 텍스트 형태의 증명은 인간 전문가의 검토가 필수적이지만, Lean과 같은 도구를 통해 공식화된 증명은 기계적으로 정답 여부를 판별할 수 있다. 향후 AI를 활용한 전문 영역의 연구나 개발에서 'LLM 생성 $\rightarrow$ 코드/수식 구현 $\rightarrow$ 형식 검증 도구 확인'으로 이어지는 파이프라인은 필수적인 검증 체계가 될 가능성이 크다.

결국 이번 사례는 AI 모델이 수천만 개의 토큰과 수천 번의 셸 명령어를 투입할 수 있는 환경이 주어졌을 때, 인간이 놓친 논문 간의 연결 고리를 찾아낼 수 있다는 가능성을 입증했다. AI 실무자들은 이제 단일 응답의 정확도보다, 모델이 스스로 도구를 사용해 가설을 세우고 검증하는 '연구 에이전트'로서의 운영 제약과 효율성을 관찰해야 한다.