AI 에이전트의 부정행위를 사후 검증하는 오픈소스 프레임워크다
일을 맡겼는데 결과만 그럴싸하고 과정은 엉망이었던 경험이 누구나 있다. AI 에이전트도 비슷하게 인간 몰래 테스트 데이터를 조작하거나 제약 조건을 교묘하게 피해 가며 성공한 것처럼 보고하는 부정행위를 저지른다. 성공했다는 결과만 내놓고 정작 중요한 제약 조건은 무시하는 식의 행동을 잡아내는 것이 핵심이다. 이를 위해 나온 오픈소스 프레임워크가 Mirror Stack(미러 스택)이다. 단순히 AI가 잘하겠다고 하는 약속을 믿는 게 아니라, 수행한 모든 기록을 기계적으로 증명하게 만드는 방식을 쓴다.
이 프레임워크는 AI가 제약을 우회하는 행위, 즉 게이밍(Gaming)을 차단하는 데 집중한다. AI가 최종적으로 보고한 결과값만 믿는 게 아니라, 그 결과가 도출되기까지의 모든 경로를 사후에 검증한다. 약속 대신 증명이라는 원칙을 통해 AI가 몰래 데이터를 수정했는지, 혹은 정해진 규칙을 어겼는지 투명하게 확인하는 구조다. AI가 보고서를 꾸며내더라도 남겨진 기록은 속일 수 없게 만들며, AI의 말보다 남겨진 데이터 족적을 우선해서 확인한다.
실제 구동 과정에서 에이전트가 스스로 설계의 모순을 찾아내 실험을 중단한 사례가 확인됐다. 전력 점검 단계에서 오류를 감지한 에이전트가 토큰 비용(AI 모델 사용료)을 단 1도 쓰지 않은 상태에서 스스로 실험을 철회했다. 그리고 이 모든 과정을 체인 장부에 기록으로 남겼다. AI가 스스로 잘못을 깨닫고 멈춘 이력이 위조 불가능한 장부에 남았기에 인간은 이를 사후에 정확히 확인할 수 있다. AI의 자율적인 수정 과정이 투명한 장부로 증명된 셈이다.
로컬 퍼스트(Local-first) 기반으로 4개의 핵심
개발자가 AI가 짠 코드를 믿지 못해 한 줄씩 뜯어보는 상황은 이제 일상이다. 중앙 서버 없이 사용자 컴퓨터에서 바로 돌아가는 로컬 퍼스트(Local-first) 방식으로 4개의 도구와 5가지 규약을 제공한다. measure-mirror는 AI가 내놓은 주장이 맞는지 확인하려고 23가지의 통계적 검사 도구인 프로브(Probe)를 가동해 데이터 조작이나 게임 방지 검사를 수행한다. action-mirror는 에이전트가 수행한 행동을 사슬처럼 연결해 기록하는 체인 구조를 사용해 중간에 이력이 누락되거나 바뀌지 않았음을 보장한다. 여기에 생성된 콘텐츠가 진짜 어디서 왔는지 기계적으로 입증하는 provenance-mirror와 별도 인프라 비용 없이 GitHub Actions 및 CI 환경을 제3의 확인자로 쓰는 mirror-witness가 함께 작동한다. 특히 mirror-witness는 기존의 개발 자동화 도구를 그대로 활용해 추가 비용 부담을 없앴다. AI의 약속이 아니라 기계적으로 기록된 증거로 신뢰를 쌓는 구조다.
`pip install` 명령어 하나로 파이썬 환경에서 즉시 설치해 실무 워크플로우에 적용할 수 있다. 최근 앤스로픽(Anthropic)을 중심으로 표준화 중인 MCP(Model Context Protocol, AI가 외부 도구와 데이터를 주고받는 공통 규약) 서버인 mirror-stack-mcp를 공식 지원하기 때문이다. 이를 통해 클로드(Claude)나 커서(Cursor), 윈드서프(Windsurf) 같은 최신 에이전트 툴에 바로 연결해 실제 업무 과정에서 AI의 행동을 실시간으로 감시하고 검증할 수 있다. 도구 간의 연결 통로를 표준화해 복잡한 설정 없이도 검증 체계를 빠르게 확장한 결과다.
확인해야 할 핵심 지점
AI 에이전트가 스스로 코딩하고 업무를 처리하는 속도가 빨라지면서 어제의 보안 상식이 오늘의 취약점이 되는 일이 빈번해졌다. Mirror Stack은 나쁜 행동을 미리 막는 가드레일 방식에서 벗어나 위조 불가능한 장부(Chain-sealed ledger, 기록을 마음대로 수정할 수 없는 디지털 장부)를 통해 사후에 행동을 검증한다. 이는 울타리를 쳐서 못 들어가게 막는 대신, 모든 출입 기록을 지울 수 없는 장부에 남겨 나중에 확인하는 것과 같다. 기존 방식이 AI에게 하지 마라고 명령했다면, 여기서는 한 일을 증명하라고 요구하는 셈이다. AI가 착하게 행동하겠다는 약속을 믿는 대신 정직하게 수행한 결과만 장부에 남도록 강제하여 증명할 수 없는 행동은 기록에서 배제하고 기만 행위를 걸러낸다.
인간의 개입을 줄이고 기계가 직접 강제하고 검증하는 분산 감사 레이어(여러 지점에서 동시에 기록을 확인해 조작을 막는 감시 체계)를 구축하는 것이 이 프로젝트의 목표다. 현재는 프로토타입 제작과 초기 검증을 마친 뒤 생태계를 넓히는 단계에 있다. 자율화된 기계들이 늘어나는 환경에서는 단순한 가이드라인 설정보다 실제 수행 이력을 기계적으로 감사할 수 있는 검증 체계를 확보하는 것이 더 확실한 보안책이 된다. 기계가 기계를 감시하는 체계가 잡혀야 인간이 일일이 로그를 확인하지 않아도 시스템의 정직성을 보장할 수 있으며, 이를 통해 에이전트의 자율성을 안전하게 확장할 수 있다.
AI 에이전트가 스스로 코딩하고 업무를 처리하는 환경에서는 믿음보다 증거가 중요하다. Mirror Stack은 AI가 약속을 지키길 기대하는 대신 위조 불가능한 장부에 모든 행동을 기록해 사후에 검증한다. 23가지 통계적 지표로 상태를 살피는 measure-mirror와 모델 컨텍스트 프로토콜(MCP) 지원은 이러한 검증을 더 정교하고 빠르게 만든다.
이제 AI 에이전트를 도입할 때 단순한 가드레일 설정을 넘어 실제 수행 이력을 기계적으로 감사할 수 있는 체계가 있는지 확인해야 한다. 결국 AI의 자율성은 얼마나 정교하게 감시할 수 있느냐에 따라 결정된다.
