그래프 기반 검색은 MuSiQue, HotpotQA

복잡한 교차 문서 검색 조건에서 그래프 가이드 검색은 일반 RAG(검색 증강 생성) 대비 Recall@5를 평균 19.6포인트 끌어올렸다. MuSiQue, HotpotQA, 2WikiMultiHopQA와 같은 멀티홉 QA 벤치마크에서 일반 RAG의 Recall@5 평균 73.4%가 그래프 가이드 검색 도입 시 87.8%로 상승했다. 특히 MuSiQue에서 31포인트, 2Wiki에서 28포인트의 상승폭을 기록하며 가장 큰 성능 향상을 보였다. 난도가 높은 교차 문서 세트일수록 그래프 기반 검색의 효율이 높다는 사실을 입증한다.

ICLR 2026에서 발표된 GraphRAG-Bench(그래프 기반 RAG 평가 벤치마크) 결과는 질문의 추론 깊이에 따른 성능 편차를 수치로 증명했다. 단순 사실 검색의 경우 텍스트 청크 60.9, 그래프 60.1로 두 방식의 성능이 사실상 대등한 수준이었다. 반면 복잡한 추론에서는 그래프가 53.4를 기록해 텍스트 청크의 42.9보다 10포인트 높게 나타났다. 문맥적 요약에서도 그래프가 64.4로 텍스트 청크의 51.3보다 13포인트 우세한 결과를 보였다. 질문의 추론 깊이가 깊어질수록 그래프 구조가 가지는 이점이 커진다.

기술이 실제로 작동하는 방식

72~83%의 포괄성과 62~82%의 다양성 승률이 측정됐다. Microsoft Research가 벡터 RAG(Vector RAG, 텍스트를 수치 벡터로 변환해 유사한 정보를 찾는 방식)와 비교해 글로벌 질문 처리 능력을 검증한 결과다. 특히 최상위 수준의 요약문을 생성하는 과정에서는 소스 텍스트를 직접 처리하는 방식과 비교해 토큰 사용량을 최대 97%까지 줄이는 효율성을 보였다. 전체 코퍼스를 통합적으로 이해해야 하는 글로벌 질문에서 GraphRAG가 기존 RAG보다 우수한 성능을 낸다.

F1 점수 64.8 대 63.0으로 일반 RAG가 단일 홉 사실 조회에서 소폭 앞섰다. Michigan State와 Meta의 연구에 따르면 단순 사실 조회인 내추럴 퀘스천(natural questions) 작업에서는 일반 RAG의 처리 능력이 더 높게 나타났다. 반면 멀티홉 추론(MultiHop-RAG, 여러 정보 조각을 단계적으로 연결해 추론하는 방식)에서는 그래프 가이드 검색이 전체 정확도 70.3을 기록하며 67.0에 그친 일반 RAG를 앞질렀다. 단순 사실 확인과 복합 추론이라는 작업 성격에 따라 두 방식은 서로 다른 강점을 가진 보완적 관계를 형성한다.

확인해야 할 핵심 지점

중간 규모의 코퍼스 인덱스 구축에 GPT-4o(OpenAI의 멀티모달 모델)를 적용하면 약 48달러의 비용이 발생한다. 이는 일반적인 벡터 인덱스(Vanilla Vector Index) 구축 비용을 크게 상회하는 수치다. 비용 분석 결과 GPT-4o를 사용한 인덱스 구축은 일반 벡터 인덱스보다 훨씬 비싼 것으로 나타났다. 추출 작업을 쿼리 시점으로 미룬 LazyGraphRAG는 구축 비용을 약 0.1% 수준으로 낮추며 효율성을 개선했다. 인덱싱 비용이 초기 도입의 실질적인 제약이다.

인덱싱 과정에서 LLM은 모든 청크를 읽어 엔티티, 관계, 주장을 추출하고 이를 가중치 지식 그래프로 조립한다. 이후 Leiden 알고리즘(커뮤니티 탐지 알고리즘)을 사용하여 그래프를 관련 주제의 계층적 클러스터로 나누며, 각 커뮤니티에 대한 자연어 요약을 미리 작성한다. LLM이 모든 청크를 전수 조사하여 관계를 정의하는 방식이 비용과 성능의 트레이드오프를 만든다. 이러한 사전 요약 체계는 쿼리 시점에 데이터 전체를 조망하고 맥락을 파악하는 성능의 기반이 된다.

LLM-as-a-judge(LLM을 평가자로 사용하는 방식) 평가 과정에서 위치, 길이, 시행 편향이 발견되어 일부 포괄성 지표가 과대평가되었을 가능성이 있다. 단일 사실 검색에는 벡터 RAG(검색 증강 생성)를, 복합 추론과 전체 요약에는 GraphRAG를, 혼합 질의에는 하이브리드 라우터를 선택하라.