facts
70편 이상의 기술 노트와 아트워크가 수록된 Paged Out! 제9호가 발행됐다. 이번 호는 프로그래밍, 보안, 리버스 엔지니어링, 하드웨어 등 광범위한 주제를 다루며, 특히 로컬 AI 구동과 시스템 수준의 최적화 기법에 집중했다. 발행 주체인 HexArcana Cybersecurity GmbH는 이번 호를 통해 ISSN(전자판/인쇄판)을 공식 발급받아 정기간행물로 등록했다.
공개된 기술 축은 크게 AI 인프라 최적화, 실험적 시스템 구현, 보안 취약점 분석으로 나뉜다. 6GB GPU에서 여러 LLM을 교체 실행하는 메모리 관리 기법과 AMD BC-250 채굴 보드에서 35B MoE 모델을 구동하는 Edge AI 사례가 포함됐다. 또한 VRChat의 픽셀 셰이더 내에서 리눅스를 실행하거나, ESP32-C6 및 ESP32-S3의 Wi-Fi 펌웨어를 패치하는 등의 저수준 시스템 제어 방법론이 수록됐다.
how-it-works
분산 네트워크의 거리 측정 방식을 변경한 'Semantic Kademlia'는 기존 Kademlia DHT가 사용하는 XOR 거리 대신 임베딩 벡터와 코사인 거리를 이용한다. 대형 LLM 없이도 동작하도록 CountSketch 기반의 경량 임베딩을 사용하며, 이를 통해 자연어 기반의 의미 검색과 데이터 복제를 지원한다. 다만 이 과정에서 발생하는 차원의 저주와 라우팅 효율, 데이터 편향 등의 트레이드오프를 분석 대상으로 삼았다.
6GB라는 제한된 VRAM 환경에서 여러 AI 모델을 번갈아 실행하는 'Musical Chairs in VRAM' 구조는 CUDA VMM(Virtual Memory Management)과 단일 메모리 풀을 활용한다. 모델을 시스템 RAM에 미리 적재한 뒤, 추론이 필요한 시점에만 VRAM으로 이동시켜 메모리를 재사용하는 방식이다. 이와 유사하게 중고 AMD BC-250 채굴 보드를 활용한 사례에서는 ROCm 없이 Vulkan만을 이용해 Ollama와 llama.cpp 기반으로 최대 35B MoE 모델까지 구동하는 파이프라인을 구현했다.
가상 환경의 제약을 극복한 'Linux in a Pixel Shader' 프로젝트는 Compute Shader를 사용하지 않고 화면 피드백 루프를 통해 CPU를 구현했다. 픽셀 셰이더 내에서 RISC-V 에뮬레이터와 메모리 시스템을 구축해 리눅스 커널을 실행하는 구조다. 한편, 기업 조직을 모델링한 'AGI Corporate'는 ECS(Entity Component System) 구조를 도입했다. 직원을 엔티티로 정의하고 cron 스케줄러, 워커풀, LangGraph 기반 Runbook을 통해 업무를 실행함으로써 기존 모니터링 시스템의 구조를 AI 에이전트 운영에 이식했다.
implementation-impact
실무적인 도구 활용 측면에서는 LlamaIndex와 IMAP을 결합해 개인정보 유출 없이 이메일을 검색하는 로컬 우선(Local-first) RAG 시스템이 제시됐다. 약 170줄의 Python 예제로 구현 가능하며, 외부 API로 데이터를 전송하지 않는 폐쇄적 구조를 가진다. 보안 영역에서는 Landlock 기반의 샌드박스 도구인 `sandboxec`가 소개됐다. 이는 컨테이너 없이 단일 명령 실행 시 파일 시스템과 TCP 포트를 Allow List 방식으로 제한해 AI 에이전트나 CLI 도구의 권한을 격리한다.
언어 및 펌웨어 수준의 제약 해결 사례도 포함됐다. Java 17의 Sealed Interface 기능을 Java 8 환경에서 구현하기 위해 Annotation Processor와 Visitor 패턴을 이용한 컴파일 타임 검사 방식을 적용했다. ESP32-C6와 ESP32-S3의 경우에는 RISC-V 및 Xtensa 바이너리를 직접 패치하여, 기본적으로 차단된 Raw 802.11 Management Frame의 송신 기능을 활성화했다.
개발자와 시스템 연구자는 이번 호에서 다룬 CUDA VMM 기반의 메모리 스와핑이나 Vulkan 전용 LLM 구동 사례를 통해, 고사양 GPU가 없는 제한된 하드웨어 자원에서도 모델 파라미터 크기와 추론 지연시간 사이의 접점을 찾는 최적화 기준을 검토할 수 있다.
