LFM2.5-2.6B 제원과 배포 환경

라즈베리 파이와 같은 저사양 하드웨어부터 스마트폰, 노트북까지 클라우드 추론이나 GPU 없이 로컬에서 구동할 수 있는 LFM2.5-2.6B가 공개됐다. 이 모델은 26억 개의 파라미터를 보유하며, 128,000토큰의 컨텍스트 윈도우를 지원해 장기적인 에이전트 워크플로우를 처리할 수 있다. 특히 네이티브 도구 호출(Tool Calling) 기능을 내장해 외부 API나 소프트웨어 제어 작업에 최적화됐다.

Hugging Face를 통해 포스트 트레이닝 모델과 개발자용 베이스 체크포인트(LFM2.5-2.6B-Base)가 모두 공개됐다. 배포 편의성을 위해 llama.cpp, MLX, vLLM, SGLang, ONNX 등 주요 추론 스택을 출시 첫날부터 지원한다. 또한 Liquid AI는 오픈 소스 미세 조정 프레임워크인 LEAP를 함께 제공해 개발자가 특정 도메인에 맞게 모델을 최적화할 수 있도록 했다.

CPU 최적화 구조와 4단계 학습 파이프라인

학습 데이터는 약 34조 개의 토큰으로 구성됐으며, 비라틴 문자 지원을 위해 어휘 사전(Vocabulary) 크기를 128K로 두 배 늘렸다. 모델의 성능을 결정짓는 학습 과정은 총 4단계 파이프라인으로 진행된다. 먼저 지도 미세 조정(SFT)을 수행한 뒤, 지시 이행·수학·코드·도구 사용 등 각 도메인에 특화된 전문가 모델을 만드는 '교사 전문화(Teacher Specialization)' 단계를 거친다. 이후 '다중 도메인 온-폴리시 증류(MOPD)'를 통해 전문가들의 능력을 하나의 학생 모델로 통합하며, 마지막으로 Hermes Agent와 OpenClaw 같은 실제 에이전트 하네스 내부에서 강화 학습(Agentic RL)을 수행해 도구 호출의 정확도를 높였다.

성능 측정 결과는 GPU 벤치마크보다 실제 CPU 성능에 초점을 맞췄다. Apple M5 Max에서는 초당 약 220토큰, AMD Ryzen AI Max+ 395에서는 초당 113토큰의 디코딩 처리량을 기록했다. 스마트폰에서는 초당 약 30토큰 수준이며, 메모리 점유율은 2.5GB 미만으로 측정됐다. 반면 엔비디아 H100 GPU 1장에서는 동시 부하 상태에서 초당 약 15,000개의 출력 토큰을 처리해 하루 약 13억 개의 토큰을 생성할 수 있다고 밝혔다. 해당 수치는 제조사 벤치마크 결과이며 독립적인 검증은 이루어지지 않았다.

에이전트 하네스 중심의 운영 전략

모델 설계의 핵심은 챗봇 형태의 인터페이스가 아니라 에이전트 프레임워크를 통한 소비를 전제로 했다는 점이다. Liquid AI는 모델이 단순히 정답을 내놓는 것이 아니라, 배경에서 실행되며 캘린더를 확인하거나 워크플로우를 자동화하는 '선제적 에이전트(Proactive Agents)' 구현을 목표로 한다. 이를 위해 모델과 에이전트 하네스를 공동 설계하여, 모델의 취약점을 소프트웨어 계층(하네스)에서 보완해 전체 시스템의 신뢰도를 높이는 방식을 취했다.

기업 환경에서 이 모델은 하네스 교체만으로 다양한 역할을 수행하는 범용성을 제공한다. 예를 들어 동일한 모델을 사용하더라도 주변 도구 구성만 바꾸면 캘린더 비서에서 회의 기록 및 요약 비서로 즉시 전환할 수 있다. 이는 모델 자체를 매번 다시 학습시키지 않고도 배포 유연성을 확보하고 추론 비용을 낮출 수 있는 구조다. 지원하는 활용 사례로는 로컬 도구 호출, 문서 관리, 차량 및 로보틱스와 같은 연결 제한 환경에서의 자동화 루틴 등이 있다.

실제 프로덕션 환경에 모델을 도입하려는 개발자는 가급적 미세 조정을 수행해야 한다. 도구 구성(Harness) 변경만으로도 어느 정도의 범용성을 확보할 수 있지만, 특정 작업의 신뢰도를 극대화하기 위해서는 전용 데이터셋을 통한 추가 학습이 필수적이기 때문이다.