하드웨어와 LLM의 결합으로 구현한 오프라인 차량 에이전트

약 300유로의 비용이 드는 라즈베리 파이 5(16GB RAM)를 기반으로, 외부 네트워크 연결 없이 작동하는 자동차 AI 'CarWatch'가 공개됐다. 이 시스템은 35B 파라미터 규모의 Qwen 모델을 로컬에서 구동하며, 차량을 하나의 '채팅방 에이전트'로 변환한다. 사용자는 스마트폰이나 워치의 CodeWatch 앱을 통해 차량의 상태를 확인하고 명령을 내릴 수 있다.

35B 모델은 차량의 출발과 도착 알림, 주행 요약 보고서를 생성하는 역할을 수행한다. 특히 WOLFBOX 블랙박스와 연동되어 차량에 충격이 가해졌을 때 관련 클립 영상을 추출해 사용자에게 전송하는 기능이 포함됐다. 이러한 모든 과정은 클라우드를 거치지 않고 차량 내부의 하드웨어에서 직접 처리된다.

블랙박스 하드웨어와의 연동은 'carwatch-probe'라는 도구를 통해 이뤄졌다. WOLFBOX의 HTTP API가 문서화되어 있지 않음에도 불구하고, 프로브가 알려진 펌웨어 엔드포인트 패턴을 탐색해 실제 경로를 찾아내는 방식으로 기능을 구현했다. 이렇게 확보한 데이터는 로컬 AI 모델의 입력값으로 활용되어 상황에 맞는 메시지를 생성한다.

'로컬 우선' 원칙이 만드는 엣지 AI의 실용적 채택 흐름

네트워크 연결이 끊긴 환경에서도 완전한 유용성을 제공하는 '로컬 우선(Local is the product)' 철학이 이번 구현의 핵심이다. 자동차는 차고, 터널, 통신 음영 지역 등 네트워크 불안정 구간을 빈번하게 지나기 때문에, 온라인 연결은 부가적인 '강화(Enrichment)' 요소로만 취급한다. 이는 클라우드 의존도를 낮추고 엣지 단에서 추론을 완결 짓는 채택 흐름을 보여준다.

안전과 직결된 정보는 절대 네트워크에 의존하지 않는다는 원칙이 적용됐다. 즉각적으로 확인해야 하는 안전 관련 정보는 로컬에서 즉시 처리하고, 소셜 기능이나 데이터 부하가 큰 작업은 나중에 처리하는 '우아한 성능 저하(Degrade gracefully)' 방식을 택했다. 이는 AI의 도입 목적을 단순한 편의성이 아니라, 환경 제약이 큰 물리적 공간에서의 신뢰성 확보에 둔 설계다.

이러한 접근은 AI 모델의 크기와 하드웨어 성능 사이의 타협점을 찾는 경쟁 구도에서 의미를 갖는다. 고성능 GPU 서버가 아닌 라즈베리 파이 수준의 저전력 보드에서 35B 규모의 모델을 돌려 실용적인 기능을 구현함으로써, 특정 목적에 특화된 로컬 AI 에이전트의 가능성을 제시했다.

실물 검증 중심의 개발 프로세스와 API 확보 전략

개발자가 주목할 지점은 소프트웨어의 완성도를 정의하는 '정직 정책(Honesty policy)'이다. 단순히 코드가 실행되거나 시뮬레이션에서 작동하는 '구축 및 테스트(Built + tested)' 단계와, 실제 차량에 장착해 물리적 환경에서 작동을 확인한 '증명(Proven)' 단계를 엄격히 구분했다. 이는 가상 환경과 실제 물리 환경 사이의 간극이 큰 자동차 AI 개발에서 필수적인 검증 기준이 된다.

문서화되지 않은 하드웨어 API를 다루는 방식 또한 실무적인 참고 지점이다. 제조사가 제공하는 공식 문서가 없을 때, 엔드포인트 패턴을 스캔하는 프로브를 만들어 실제 응답을 확인하고 이를 코드에 반영하는 역공학적 접근을 통해 하드웨어 제어권을 확보했다. 이는 폐쇄적인 차량 생태계에서 오픈소스 기반의 AI 에이전트를 구축하는 구체적인 방법론을 보여준다.

결과적으로 이번 사례는 한국의 AI 실무자들에게 LLM의 경량화와 로컬 구동이 단순한 기술적 실험을 넘어, 물리적 제약이 뚜렷한 산업 현장에서 어떻게 실용적인 도구로 전환될 수 있는지에 대한 기준을 제공한다. 특히 AGPL-3.0 라이선스로 공개된 이번 프로젝트는 하드웨어 제약 조건 하에서의 모델 선택과 API 확보 전략을 관찰할 수 있는 실질적인 레퍼런스가 된다.