murrdb가 AI 추론 워크로드를 위한 RocksDB(임베디드 키-값 저장소) 기반 캐시 Murr를 공개했다. 배치 데이터 파이프라인과 추론 앱 사이의 데이터 서빙 계층으로 작동하며 Parquet 입력과 Arrow-Flight(고성능 데이터 전송 프레임워크) 출력을 지원한다.

핫 데이터는 메모리에, 콜드 데이터는 디스크에 배치하는 계층형 저장 방식을 사용하며 S3 기반 복제를 적용했다. 제로카피 와이어 프로토콜을 통해 Numpy, Pandas, Pytorch 배열을 변환 없이 구성할 수 있다. 무상태 설계로 모든 상태를 S3에 보존하며 노드 퇴출 시 자체 부트스트랩으로 복구한다.

벤치마크 결과 packed-blob 읽기에서 Redis 대비 약 3배, Feast 스타일 HSET에서 약 12배 빠른 속도를 보였다. RAM 사용량은 HSET 대비 약 3배 적으며, DynamoDB 대비 비용은 약 10배 저렴하다. 범용 DB가 아니므로 OLTP는 Postgres, 분석은 Clickhouse 등을 권장한다.