개발자 커뮤니티의 온도가 뜨겁다. 단순히 질문에 답하는 챗봇을 넘어, 스스로 기억하고 도구를 사용하며 판단하는 자율 에이전트(Autonomous Agent)를 직접 설계하려는 시도가 늘고 있다. 이번에 공개된 아키텍처는 추상화된 인터페이스를 통해 메모리 백엔드, 언어 모델 제공자, 도구 모듈을 독립적으로 분리하여 생산 환경에 즉시 투입 가능한 구조를 제시한다.

하이브리드 메모리와 모듈형 도구 설계

시스템의 핵심은 기억과 추론의 결합이다. 이번 설계에서는 의미론적 벡터 검색(Semantic Vector Search)과 키워드 기반의 BM25(단어 빈도와 문서 길이를 고려한 검색 알고리즘) 인덱스를 동시에 활용한다. 두 검색 결과는 상호 순위 융합(Reciprocal Rank Fusion)을 통해 최적의 정보를 추출한다. 개발자는 다음과 같이 환경을 설정하고 OpenAI API 키를 안전하게 관리하며 시작한다.

bash
pip install openai rank_bm25

python
import getpass
api_key = getpass.getpass("Enter your OpenAI API key: ")

임베딩 모델과 채팅 모델을 전역 상수로 정의하여 모듈 간 일관성 유지

추상화된 인터페이스와 도구 연결 방식

예전에는 에이전트 로직이 특정 모델에 강하게 결합되어 있어 수정이 어려웠다. 이제는 MemoryBackend, LLMProvider, Tool이라는 세 가지 핵심 추상 클래스를 통해 각 구성 요소를 독립적으로 관리한다. 특히 OpenAIProvider는 모델의 응답을 에이전트가 이해할 수 있는 표준 사전(Dictionary) 형태로 정규화하여, 내부 모델이 바뀌어도 에이전트 코어는 변경할 필요가 없도록 설계되었다.

도구 호출 방식 또한 자동화되었다. MemoryStoreTool(기억 저장 도구), MemorySearchTool(기억 검색 도구), CalculatorTool(계산기 도구), WebSnippetTool(웹 정보 추출 도구)은 각각 OpenAI 호환 JSON 스키마를 노출한다. 이를 통해 에이전트는 사용자의 요청에 따라 필요한 도구를 스스로 판단하여 호출한다. Aria라는 이름의 데모 페르소나는 데이터 클래스로 정의되어, 매 대화마다 시스템 프롬프트에 주입됨으로써 일관된 정체성을 유지한다.

자율 에이전트 루프와 런타임 교체

개발자가 바로 체감하는 변화는 에이전트 루프의 유연성이다. AutonomousAgent 클래스는 메시지를 주고받으며 도구 호출을 감지하고, 결과를 다시 입력받아 최종 답변을 생성할 때까지 반복한다. 특히 register_tool 메서드를 사용하면 실행 중에 도구를 핫스왑(Hot-swapping, 시스템을 끄지 않고 기능을 교체하는 방식)할 수 있다. 이는 복잡한 비즈니스 로직을 가진 에이전트를 운영할 때 매우 유용한 기능이다.

python

런타임 중 도구 등록 예시

agent.register_tool(NewCustomTool())

메모리 상태 확인을 위한 덤프

state = agent.memory_dump()

이러한 모듈형 설계는 하드코딩된 로직 없이도 에이전트가 스스로 정보를 저장, 회상, 추론하게 만든다. 전체 코드와 상세 구현은 공식 저장소에서 확인할 수 있다. 모든 구성 요소가 인터페이스 계약을 준수하므로, 특정 모델이나 메모리 백엔드를 교체하더라도 전체 시스템의 안정성은 유지된다.

자율 에이전트의 완성도는 이제 모델의 지능을 넘어, 얼마나 유연하게 도구와 메모리를 연결하느냐는 아키텍처의 설계 역량에 달려 있다.