데이터 집약적 모델의 한계와 에이전트의 등장

17만 개의 검증된 단백질 구조 데이터를 담은 단백질 데이터 뱅크(Protein Data Bank)는 알파폴드(AlphaFold) 성공의 핵심 기반이었다. 이 데이터셋을 구축하기 위해 국제적인 과학 협력이 53년간 이어졌으며, 투입된 실험 비용만 약 210억 달러(한화 약 28조 원)로 추산된다. 이러한 대규모 데이터셋 구축 방식은 막대한 자금과 조정 능력이 필요해 다른 과학 분야에 동일하게 적용하기에는 시간적, 경제적 제약이 크다.

대부분의 실험 과학 분야에서는 데이터의 일관성을 확보하는 것 자체가 물리적으로 불가능한 경우가 많다. 세포주(Cell line)의 변동, 화학 물질의 미세 오염, 실험실 습도 변화 등 통제 불가능한 변수가 많아 현대 신경망 학습에 필요한 수준의 정밀하고 확장 가능한 데이터셋을 생성하기 어렵다. 기상 예측이나 유전학 등 일부 분야를 제외하면, 데이터 학습만으로 정답을 찾는 모델 방식은 확장성에 한계가 있다.

이러한 제약을 해결하기 위해 등장한 것이 AI 에이전트 방식이다. 에이전트는 대규모 언어 모델(LLM)을 추론 엔진으로 삼고, 디지털 또는 물리적 도구에 접근해 이를 사용할 수 있는 권한을 가진 시스템이다. 특정 질문에 최적화된 데이터셋을 학습하는 대신, 인간 과학자가 불확실성 속에서 도구를 조합하고 결과를 수정하며 가설을 검증하는 반복적 연구 프로세스를 디지털로 모델링한다.

AI Co-Scientist의 추론 파이프라인과 작동 방식

한 페이지 분량의 브리프와 목표 설정만으로 작동하는 구글의 AI Co-Scientist는 '박테리아 종 간의 항생제 내성 확산 경로 규명'이라는 과제를 수행했다. 이 시스템은 단일 모델이 답을 내는 것이 아니라, 서로 다른 역할을 가진 하위 에이전트(Sub-agents)를 생성해 파이프라인을 구성하는 방식으로 작동한다.

추론 과정은 총 4단계의 순환 구조로 이루어진다. 먼저 첫 번째 에이전트가 기존 문헌을 바탕으로 가설을 초안한다. 이어지는 두 번째 에이전트는 동료 심사(Peer review) 과정처럼 해당 가설의 허점을 찾아내 비판한다. 세 번째 에이전트는 여러 가설 후보군을 대상으로 토너먼트를 진행해 가장 가능성 높은 후보를 순위 매기고, 마지막 네 번째 에이전트가 선정된 가설을 정교하게 다듬는다.

이 과정을 통해 AI Co-Scientist는 내성 유전자가 박테리아 바이러스에 편승해 새로운 호스트로 이동한다는 결론을 도출했다. 이는 임페리얼 칼리지 런던(Imperial College London) 연구진이 10년간의 습식 실험(Wet-lab work)을 통해 도달한 결론과 일치하는 결과다. AI Co-Scientist는 해당 연구진의 논문을 학습하지 않은 상태에서 동일한 가설을 스스로 도출해 냈다.

기술적 제약과 실무적 도입 고려사항

현재의 추론 에이전트는 인간의 연구 방식을 모사하지만, 운영 단계에서 몇 가지 명확한 제약 사항을 가진다. LLM 기반 엔진의 특성상 사실과 다른 내용을 생성하는 환각(Hallucination) 현상이 발생하며, 상황에 따른 판단의 일관성이 부족하다. 특히 자율적으로 연구를 수행하는 시간은 모델의 메모리 용량과 입력 토큰 제한(Input constraints)에 의해 결정되므로, 장기적인 자율 실행에는 한계가 있다.

AI 에이전트를 연구 파이프라인에 도입하려는 개발자는 모델의 자율 실행 시간(Autonomous run time)을 결정짓는 컨텍스트 윈도우 크기와 메모리 제약을 최우선으로 검토해 추론 단계의 단절 가능성을 설계에 반영해야 한다.