애리조나 대학 연구팀, Codex로 블랙홀 시뮬레이션 알고리즘 최적화

AI가 짠 코드로 웹사이트를 만들거나 엑셀 수식을 자동화하는 풍경은 이제 익숙하다. 하지만 이 도구의 적용 범위는 이제 우주에서 가장 극단적인 환경인 블랙홀 시뮬레이션으로 확장됐다. 애리조나 대학교와 스튜어드 천문대(Steward Observatory)의 치콴 찬(Chi-kwan Chan) 연구원은 OpenAI의 코드 생성 모델인 Codex를 활용해 블랙홀 주변 플라즈마의 움직임을 계산하는 알고리즘을 최적화하고 있다.

찬 연구원은 2019년 인류 최초로 블랙홀 이미지를 공개한 국제 이벤트 호라이즌 망원경(EHT) 협력단 소속이다. 현재 EHT 팀은 M87 은하 중심에 위치한 초거대 블랙홀의 영상을 제작하기 위해 관측 데이터를 수집하고 있다. 정지 영상을 넘어 비디오 수준의 결과물을 얻으려면 우주의 극단적인 물리 현상을 모델링할 수 있는 대규모 컴퓨팅 워크플로우와 정교한 시뮬레이션이 필수적이다. 특히 빛조차 빠져나올 수 없는 사건의 지평선(event horizon) 경계 밖에서 소용돌이치는 물질이 내뿜는 빛을 측정하고 시뮬레이션하는 과정에는 막대한 데이터 처리가 수반된다.

찬 연구원은 Codex를 통해 연산 효율을 높일 수 있는 알고리즘 후보를 빠르게 도출하고 이를 기존 솔루션과 비교 테스트하는 방식을 택했다. 슈퍼컴퓨터로도 해결하기 어려운 초거대 데이터 연산과 시뮬레이션에 소요되는 시간 비용 문제를 AI의 코드 생성 능력을 통해 돌파하려는 시도다.

이는 AI를 단순한 정답 생성기가 아니라, 복잡한 수학적 가능성을 탐색하고 검증 가능한 코드로 구현하는 가설 생성 도구로 활용하는 접근이다. 연구자가 모든 수학적 가능성을 수작업으로 검토하는 시간을 줄여, 과학적 발견의 속도를 높이는 데 집중한다.

유체 모델의 한계와 '나선형 운동'의 수학적 우회

기존의 플라즈마 시뮬레이션은 입자들을 유체(fluid)로 처리하는 단순화된 방정식을 사용했다. 이 방식은 입자들이 서로 빈번하게 충돌하는 밀도 높은 플라즈마 환경에서는 유효했다. 하지만 초거대 블랙홀 주변의 고온·희박 지역에서는 입자들이 서로 충돌하는 대신 자기장 라인을 따라 나선형으로 회전하는 특성을 보인다.

문제는 이 미세한 회전 동작을 그대로 계산할 때 발생하는 연산 비용이다. 수조 개의 전자와 이온이 나선형으로 회전하는 경로를 정확히 모델링하려면 컴퓨터가 극도로 작은 타임스텝(timesteps)을 수행해야 한다. 결국 세계에서 가장 빠른 슈퍼컴퓨터를 사용하더라도 거시적 행동이 아니라 입자의 아주 작은 움직임을 계산하는 데 대부분의 시간을 낭비하게 된다. 치콴 찬 연구원은 이러한 연산 병목이 수십 년 동안 블랙홀 플라즈마 시뮬레이션의 현실성을 제한해 왔다고 설명한다.

이에 찬 연구원은 입자의 모든 회전 경로를 직접 추적하지 않고 수학적으로 처리해 우회하는 수치 체계(numerical schemes)를 대안으로 찾았다. 여기서 Codex가 알고리즘 후보를 도출하고 기존 솔루션과 비교 테스트하는 도구로 투입됐다. Codex가 제안한 모든 접근법이 정답은 아니었지만, 연구자는 이를 검증 가능한 가설로 활용했다. AI가 생성한 수치 체계를 직접 검토하고 물리적으로 이해하는 과정을 통해, 기존의 연산 한계를 넘어서는 효율적인 알고리즘을 빠르게 선별할 수 있게 됐다.

수조 개 입자 시뮬레이션을 통한 물리적 발견의 가속화

알고리즘의 채택 과정은 엄격한 물리적 검증을 전제로 한다. 연구자가 Codex가 제안한 수치 체계를 직접 검토하고 테스트하며, 물리적 이해 과정을 거쳐야만 최종적으로 시뮬레이션에 적용한다. 아이디어의 출처와 상관없이 반복적인 테스트를 통한 재현성(reproducibility) 확보를 최우선으로 둔다.

이러한 검증 프로세스가 성공적으로 안착하면 수조 개의 입자를 동시에 시뮬레이션하는 것이 가능해진다. 이는 지난 수십 년간 연산 한계로 인해 도달하지 못했던 물리 영역의 연구를 현실화하는 경로가 된다. 슈퍼컴퓨터의 연산 능력과 AI의 가설 생성 능력이 결합하면서, 데이터 처리의 시간 비용이라는 물리적 제약을 극복하고 블랙홀 주변의 실제 물리 현상을 더 정밀하게 구현할 수 있게 된 것이다.

AI의 역할은 이제 정답을 생성하는 단계를 넘어, 검증 가능한 가설을 세우고 이를 코드로 빠르게 구현하는 실무적 도구로 이동한다. 결국 발견의 속도는 AI가 제안한 알고리즘 후보를 연구자가 얼마나 정교하게 검증하고 선택하느냐에 따라 결정된다.