아주 작은 자석들이 수천 개 모여 있다고 상상해 보자. 이 자석들은 서로 밀어내기도 하고 당기기도 하며 복잡하게 얽혀 있다. 그런데 어떤 자석들은 서로 너무 강하게 밀어내서, 도저히 모두가 만족할 수 없는 상태가 된다. 과학자들은 이를 좌절된 상태라고 부른다. 컴퓨터로 이 자석들이 최종적으로 어떤 모양으로 줄을 서게 될지 맞히는 것은 매우 어렵다. 왜 그럴까.

NetKet과 JAX로 구현한 양자 상태 예측

최근 연구자들은 NetKet(양자 역학의 상태를 컴퓨터로 흉내 내는 도구)과 JAX(복잡한 수학 계산을 아주 빠르게 처리해 주는 도구)를 사용해 이 문제를 풀었다. 이들은 Flax(JAX를 이용해 인공지능 모델을 쉽게 만들게 돕는 도구)라는 도구로 Transformer(데이터의 여러 부분 사이의 관계를 한꺼번에 파악하는 인공지능 구조) 모델을 설계했다. 이 모델은 하이젠베르크 스핀 체인(작은 자석들이 일렬로 늘어서서 서로 영향을 주고받는 가상의 모델) 속에서 자석들이 어떻게 배치되는지 학습했다.

연구팀은 VMC(정답을 모르지만, 가장 정답에 가까운 값을 계속 찾아가는 계산 방식)라는 방법을 썼다. 인공지능이 자석의 상태를 추측하면, 그 추측이 얼마나 정확한지 확인하고 다시 수정하는 과정을 반복한 것이다. 이렇게 학습한 모델은 자석들이 어떤 규칙으로 모여 있는지 보여주는 지표를 정확하게 찾아냈다. 인공지능이 복잡한 양자 세계의 규칙을 스스로 학습한 결과가 관찰된다.

완벽한 정답보다 효율적인 추측이 중요한 이유

기존에는 ED(모든 가능성을 다 계산해서 완벽한 정답을 찾는 방식)라는 방법을 썼다. 이 방법은 정답이 100% 정확하지만, 자석의 개수가 조금만 늘어나도 계산량이 폭발적으로 증가한다. 예를 들어 자석이 몇십 개만 되어도 지구상의 어떤 슈퍼컴퓨터로도 계산할 수 없는 수준이 된다. 사실상 작은 장난감 모델에서만 쓸 수 있는 방법이었다.

반면 Transformer를 이용한 방식은 자석들이 멀리 떨어져 있어도 서로 어떤 영향을 주고받는지 한 번에 파악한다. 이는 마치 돋보기로 하나하나 보는 것이 아니라 위성 사진으로 전체 지형을 보는 것과 같다. 덕분에 기존 방식으로는 엄두도 못 냈던 큰 규모의 자석 시스템에서도 정답에 매우 가까운 값을 빠르게 찾아낼 수 있었다. 인공지능이 계산의 한계를 깨고 더 큰 시스템을 다룰 수 있게 되었음을 의미한다.

6개월 뒤 우리 코드에 들어올 실무적 가치

이 기술은 단순히 물리 문제를 푸는 데 그치지 않는다. 우리가 사용하는 배터리의 효율을 높이거나, 전기가 전혀 저항 없이 흐르는 초전도체 같은 신소재를 설계할 때 핵심적인 역할을 한다. 소재의 원자 배열이 어떻게 되어야 가장 안정적인지 알아내는 과정이 이번 연구의 자석 배치 문제와 똑같기 때문이다.

실무적으로는 복잡한 분자 구조나 물질의 특성을 시뮬레이션하는 소프트웨어에 이 Transformer 기반의 예측 모델이 탑재될 가능성이 크다. 기존의 무거운 계산 과정을 인공지능의 빠른 추측으로 대체하면, 신소재 개발 기간을 획기적으로 줄일 수 있다. 양자 상태를 예측하는 AI 모델이 소재 공학의 설계 도구로 들어오는 경로가 제안된다.

인공지능이 보이지 않는 미시 세계의 질서를 찾아내며 과학적 발견의 속도를 높이고 있다.