오후 3시, 판교의 한 반도체 설계 사무실. 엔지니어가 수천 개의 회로 선을 겹치지 않게 배치하려다 한숨을 내쉰다. 최신 AI 모델에게 물어도 정답 근처에도 못 가고 멈춰버린 화면만 덩그러니 떠 있다.

소설을 쓰고 우주선을 조종하는 AI지만, 물류 네트워크를 짜거나 마이크로칩의 경로를 설정하는 일 앞에서는 무력해진다. 선택지가 기하급수적으로 늘어나는 조합 최적화 문제에 부딪히면 계산량이 폭발해 시스템이 멈추기 때문이다.

반도체 칩을 더 빠르게 만드는 것만으로는 해결할 수 없는 영역이다. 계산하는 방식 자체를 완전히 바꿔야 한다. 자연이 가장 안정적인 상태를 찾아가는 원리를 하드웨어에 그대로 옮겨온 새로운 기계가 이 장면을 바꾼다.

FPGA 기반 뉴로모픽 이싱 머신과 2026년 Nature Communications 발표

어제까지는 풀 수 없었던 복잡한 계산이 오늘부터는 가능해졌다. 최근 Nature Communications에 발표된 연구에 따르면, 연구진은 FPGA(프로그래밍 가능한 반도체 칩) 보드 위에서 작동하는 새로운 방식의 컴퓨터를 구현했다. 이 장치는 기존의 중앙처리장치(CPU)나 그래픽처리장치(GPU)와는 완전히 다른 방식으로 데이터를 처리한다. 이들은 특정 수학적 난제를 해결하기 위해 뇌의 신경망 구조를 모방한 뉴로모픽 아키텍처와 양자 물리의 원리를 결합했다.

연구진이 개발한 핵심 장치는 파울러-노르트하임 어닐러(Fowler-Nordheim annealer)와 뉴로모픽 오토인코더(데이터의 핵심 특징을 추출해 재구성하는 뇌 모방 신경망)를 하나로 묶은 형태다. 파울러-노르트하임 어닐러는 양자 터널링(입자가 장벽을 뚫고 통과하는 양자 역학 현상)을 이용해 최적의 값을 찾아내는 장치다. 이 장치는 단백질 접힘이나 물류 네트워크 최적화처럼 수많은 선택지 중 가장 효율적인 하나를 골라야 하는 조합 최적화 문제를 해결하는 데 특화되어 있다. 데이터가 복잡한 에너지 지형을 따라 흐르며 가장 안정적인 상태를 찾아가는 자연의 과정을 모방한 것이다.

현재의 인공지능 모델은 방대한 양의 텍스트를 생성하거나 복잡한 기계 제어에는 능숙하지만, 수많은 변수가 얽힌 수학적 조합 문제 앞에서는 계산 속도가 급격히 떨어진다. 연구진은 이러한 한계를 극복하기 위해 기존의 CMOS(상보성 금속 산화물 반도체, 현재 대부분의 반도체 칩에 쓰이는 기본 회로 기술) 공정을 활용하면서도 연산 방식은 근본적으로 바꿨다. 이 하드웨어는 단순히 계산을 수행하는 것이 아니라, 자연계의 입자가 에너지가 낮은 지점을 찾아 이동하듯 최적의 해를 향해 스스로 수렴해 나간다.

이번 연구는 워싱턴 대학교의 샨타누 차크라바티 교수가 이끄는 다국적 연구팀이 주도했다. 이들은 인도 과학원(IISc)의 벵갈루루 뉴로모픽 엔지니어링 워크숍(BNEW)과 미국 텔루라이드 뉴로모픽 엔지니어링 워크숍 등 전 세계 전문가들과 협력하며 이 기술을 고도화했다. 연구진은 이 장치가 복잡한 문제 해결 과정에서 점근적 수렴(해답에 도달할수록 오차가 0에 가까워지는 성질)을 보장한다고 설명한다. 관련 상세 내용과 연구 데이터는 Nature Communications와 Neuronics 연구실 페이지에서 확인할 수 있다.

'에너지 지형'을 탐색하는 자연 모사 방식의 최적화 원리

수천 개의 도시를 가장 빠르게 도는 경로를 찾는 일은 생각보다 까다롭다. 선택지가 하나만 늘어나도 확인해야 할 경로의 수가 기하급수적으로 불어나기 때문이다. 물류 네트워크 최적화나 마이크로칩의 회로 설계, 암호 잠금 해제 같은 조합 최적화 문제는 현재의 AI 모델조차 답을 내지 못하고 멈춰 선다. 소설을 쓰고 우주선을 조종하는 AI가 정작 복잡한 퍼즐 앞에서는 무력해지는 지점이다. 정답 후보가 너무 많아 하나하나 대조하는 기존 방식으로는 계산 시간이 무한정 늘어나 사실상 해결이 불가능하다.

단백질 접힘 과정은 자연이 정답을 찾는 방식을 잘 보여준다. 길게 펼쳐진 아미노산 사슬은 중간 단계인 용융 구상체 상태를 거쳐 가장 에너지가 낮은 안정적인 구조로 스스로 진화한다. 이번 연구의 핵심인 뉴로모픽 오토인코더(데이터 특징을 추출해 압축하고 복원하는 신경망)와 파울러-노드하임 어닐러(전자의 터널링 효과를 이용해 최적 상태를 찾는 장치)는 이 과정을 그대로 흉내 낸다. 모든 경우의 수를 일일이 계산하는 대신, 울퉁불퉁한 산맥 같은 에너지 지형에서 가장 낮은 골짜기를 찾아 내려가는 방식으로 최적해를 탐색한다. 특히 에너지가 높은 언덕을 뛰어넘어 더 깊은 골짜기를 찾아내는 능력을 통해 정답에 빠르게 수렴한다. 자연이 안정을 찾아가는 물리적 경로를 계산의 도구로 활용한 셈이다.

반도체 집적도를 두 배씩 높여 성능을 올리던 무어의 법칙은 이제 물리적 한계에 부딪혔다. 단순히 칩을 더 빠르게 만드는 전략으로는 조합 최적화 같은 난제를 풀 수 없다. 워싱턴 대학교의 샨타누 차크라바티 교수와 인도 과학원(IISc)의 체탄 싱 타쿠르 교수를 필두로 하이델베르크대, 존스홉킨스대, UC 산타크루즈 공동 연구진은 아키텍처 자체를 바꾸는 길을 택했다. 이들은 텔루라이드 뉴로모픽 및 인지 공학 워크숍과 뱅갈로르 뉴로모픽 공학 워크숍(BNEW)을 통해 아이디어를 모았다. 뇌의 작동 방식을 모사한 뉴로모픽 구조에 양자 터널링 물리 현상을 결합해 계산 방식의 근본을 바꾼 결과다. 이들은 네이처 커뮤니케이션즈(Nature Communications)를 통해 CMOS 기술 기반의 양자 영감 컴퓨팅이라는 새로운 방향성을 제시했다.

수조 개의 선택지 중에서 최적의 답을 찾으려던 AI는 그동안 모든 경우의 수를 일일이 대조하는 고된 작업을 반복했다. 뉴로모픽 이싱 머신은 뇌의 신경망 구조를 본떠 정답에 가까운 상태로 빠르게 수렴하는 방식을 택한다. 계산의 양을 무작정 늘리는 대신 뇌처럼 효율적인 구조로 정답을 찾아내는 방식이다. 연산 속도의 한계는 이제 소프트웨어가 아닌 하드웨어의 설계 방식이 결정한다.