구축 공수를 며칠에서 몇 분으로 단축한 Bedrock Managed Knowledge Base

기업 내부의 파편화된 데이터를 수집하고 AI가 이해할 수 있는 벡터 형태로 변환하여 저장소에 적재하는 과정은 정교한 인프라 설계 작업이다. 개발팀은 보통 커넥터, 파서, 벡터 저장소, 지식 그래프, 검색 로직을 개별적으로 조립하고 운영 환경에 맞게 최적화하는 과정을 거친다. 아마존 베드록은 이러한 파이프라인 구축의 복잡성을 해결하기 위해 데이터 수집, 파싱, 저장소 프로비저닝 및 관리를 자동화한 Bedrock Managed Knowledge Base를 출시했다.

기존 RAG(검색 증강 생성) 구축 방식은 개발자가 데이터 수집 파이프라인과 벡터/그래프 저장소, 검색 인프라를 각각 별도로 조달하고 구축해야 했다. 이로 인해 서로 다른 인프라 관리 부담과 상이한 과금 모델, 호출 제한을 처리하며 하나의 파이프라인으로 엮어야 하는 복잡성이 발생했다. Bedrock Managed Knowledge Base는 이러한 하위 단계의 복잡성을 추상화하여 단일 관리형 서비스로 통합했다. 사용자가 지식베이스를 구성하면 서비스가 네이티브 커넥터를 통한 데이터 수집부터 벡터 저장소의 프로비저닝까지 모든 공정을 수행한다.

데이터 연결을 위해 Amazon S3, Microsoft SharePoint, Atlassian Confluence, Google Drive, Microsoft OneDrive, Web Crawler 등 6종의 기본 커넥터를 제공하며, 지원하지 않는 소스는 수집 API를 통해 데이터를 가져올 수 있다. 특히 수정되거나 추가된 문서만 처리하는 증분 동기화 방식을 채택해 데이터 처리 시간과 컴퓨팅 비용을 줄이고 정보의 최신성을 유지한다.

이러한 자동화로 수일에서 수주가 소요되던 파이프라인 조립 및 최적화 과정이 AWS 관리 콘솔 설정을 통해 몇 분 단위로 줄어들었다. 초기 도입 단계에서는 별도 모델 선택 없이 즉각적인 검색이 가능하며, 이후 임베딩 모델, 리랭커, 청킹 전략을 세부 조정할 수 있는 제어권을 제공한다.

PDF 500MB부터 비디오 10GB까지 처리하는 자동 파싱과 저장소

아마존 베드록 매니지드 지식베이스는 파일 형식에 맞는 파싱 전략을 자동으로 선택해 구조화된 정보를 추출한다. 테이블, 차트, 다이어그램, 혼합 레이아웃을 설정 없이 처리하며 PDF, PPT, PPTX, DOCX는 최대 500MB, 오디오 파일은 최대 2GB, 비디오 파일은 최대 10GB까지 지원한다. 데이터 형식마다 별도 파이프라인을 구축할 필요 없이 하나의 통합 경로로 멀티모달 데이터를 수집한다.

파싱된 콘텐츠는 LLM이 읽을 수 있는 적절한 크기로 나누는 청킹 과정을 거친다. 서비스가 데이터 특성에 맞는 최적의 청킹 전략을 자동으로 선택하며, 사용자는 필요에 따라 고정 크기 청킹으로 토큰 크기를 직접 설정하거나 청킹 없음 옵션을 사용할 수 있다.

벡터 저장소 구축 과정의 자동화도 핵심이다. 개발자가 벡터 차원이나 유사도 지표를 직접 설정할 필요 없이 저장소가 자동 프로비저닝되며, 데이터 규모가 GB에서 TB 단위로 늘어나도 자동으로 확장된다. 이를 통해 인덱스 구성, 백업, 용량 관리 같은 운영 부담을 제거했다.

검색 정확도를 높이기 위해 키워드 검색과 시맨틱 검색을 결합한 하이브리드 검색 기능이 기본 활성화되어 있다. 저장된 모든 데이터는 AWS KMS(Key Management Service)를 통해 저장 및 전송 과정에서 암호화된다. 인프라의 모니터링, 패치, 성능 튜닝이 서비스 수준에서 처리되므로 기업은 데이터 소스 연결만으로 즉시 RAG 환경을 구축할 수 있다.

단순 조회를 넘어 추론을 수행하는 에이전트 기반 검색

효율적인 데이터 활용을 위해 Bedrock Managed Knowledge Base는 Retrieve API와 RetrieveAndGenerate API 두 가지 경로를 제공한다. Retrieve API는 데이터베이스에서 일치하는 내용을 바로 찾아내는 직접 조회(Direct lookup) 방식으로, 단일 사실 확인이나 단순 질의응답에 적합하며 검색 속도가 빠르다.

여러 문서의 내용을 종합하거나 비교 분석이 필요한 복잡한 질문은 RetrieveAndGenerate API가 처리한다. 이 API는 에이전트 기반 검색을 수행하며, 모델이 스스로 계획을 세우고 실행하는 루프를 반복한다. 예를 들어 두 제품의 성능을 비교하라는 요청이 오면, 에이전트는 각 제품의 스펙 검색이라는 독립적 과제를 설정하고 질문의 의도를 분석해 필요한 정보를 정의한다. 이는 다단계 추론(Multi-hop reasoning)이 필요한 연구 쿼리나 비교 분석 작업의 정답률을 높인다.

에이전트 검색 프로세스는 '쿼리 분석 $ ightarrow$ 계획 수립 $ ightarrow$ 하위 쿼리 생성 $ ightarrow$ 실행 $ ightarrow$ 결과 평가 $ ightarrow$ 최종 응답' 순으로 진행된다. 에이전트는 수집된 결과가 질문에 답하기 충분한지 스스로 평가하며, 정보가 부족하거나 논리적 공백이 있다면 계획을 수정해 추가 검색을 수행하는 순환 구조를 가진다.

운영자는 `maxAgentIteration` 파라미터로 모델의 최대 반복 횟수를 제어해 정확도와 응답 지연 시간 사이의 균형을 설정할 수 있다. 또한 계획 수립과 결과 평가 단계에서 사용할 파운데이션 모델(Foundation Model)을 직접 선택할 수 있어, 추론 능력이 뛰어난 모델로 복잡한 계획을 세우거나 가벼운 모델로 비용과 시간을 줄이는 설정이 가능하다.

실시간 ACL 체크와 기업 도입 사례

데이터 권한 관리를 위해 아마존 베드록 매니지드 지식베이스는 쿼리 발생 시점에 권한 소스에서 직접 확인하는 실시간 ACL(Access Control List) 체크 기능을 제공한다. 필터링된 문서는 API 호출 생명 주기 동안만 일시적으로 존재하며 모델이나 사용자에게 직접 노출되지 않는다. 이를 통해 권한 변경 사항을 벡터 데이터베이스에 일일이 반영하는 동기화 작업 없이도 최신 권한 상태를 유지하고 정보 유출 사고를 방지한다.

실제 서비스 적용 사례는 인프라 관리 부담 제거의 효율을 보여준다. OpenAI는 수백만 명의 사용자에게 개별 맞춤형 컨텍스트를 제공하기 위해 이 RAG 기능을 활용해 응답 정확도와 추론 근거를 확보했다. Syngenta Group은 SharePoint와 Confluence의 데이터를 동기화해 직원들이 온디맨드로 지식베이스를 생성하는 환경을 구축했다. MRH Trowe는 영어와 독일어로 작성된 수천 개의 내부 문서를 기반으로 AI 코파일럿을 운영하며, 네이티브 커넥터와 내장 권한 제어 기능만으로 다국어 지식 접근 속도를 높였다.

3번의 API 호출로 끝내는 실무 구현 단계

아마존 베드록 매니지드 지식베이스는 구현 과정을 지식베이스 생성, 데이터 소스 추가, 수집 시작이라는 세 번의 API 호출로 단순화했다.

먼저 `create_knowledge_base` API를 호출하여 인프라를 구축한다. 이 과정에서 모델 지정, 벡터 저장소 차원 설정, 청킹 전략을 직접 정의할 필요 없이 저장소와 검색 로직이 자동으로 구성된다.

response = bedrock_agent.create_knowledge_base(
 name='enterprise-kb',
 role_arn='arn:aws:iam::123456789012:role/service-role/BedrockKBRole'
)

복잡한 추론이 필요할 때는 `retrieve_and_generate` API를 사용하여 에이전트 기반 검색을 수행한다.

response = bedrock_agent_runtime.retrieve_and_generate(
 input={'text': 'A 제품과 B 제품의 성능 차이를 분석해줘'},
 retrieveAndGenerateConfiguration={
 'type': 'KNOWLEDGE_BASE',
 'knowledgeBaseConfiguration': {
 'knowledgeBaseId': 'KB12345678',
 'modelArn': 'arn:aws:bedrock:us-east-1::foundation-model/anthropic.claude-3-sonnet',
 'maxAgentIteration': 5
 }
 }
)

응답 과정은 스트리밍 방식으로 제공되며, 트레이스 이벤트(Trace Event)를 통해 AI의 쿼리 분석, 하위 쿼리 생성, 결과 평가 단계를 실시간으로 확인할 수 있다. 최종적으로 AgentCore Gateway 통합을 통해 관찰 가능성과 보안을 확보한다.

RAG 구축의 난이도는 이제 인프라 설정이 아니라 데이터 소스의 품질과 연결 범위라는 본질적인 문제로 옮겨갔다. 데이터 파싱과 벡터 데이터베이스 프로비저닝 같은 기술적 허들이 자동화되면서 엔지니어의 리소스는 데이터 정제라는 핵심 과제에 집중될 수 있다.

이제 `RetrieveAndGenerate` API를 통해 실제 서비스 도입 가능 여부와 구축 공수를 즉시 판단하는 단계만 남았다. 인프라 운영 부담 없이 데이터 소스 연결만으로 기업용 RAG의 실효성을 검증하는 것이 가장 효율적인 도입 경로다.