거실에 놓인 스마트 TV는 우리가 영화를 보고 뉴스를 보는 편리한 도구입니다. 하지만 만약 이 TV가 누군가의 명령에 따라 마음대로 움직인다면 어떻게 될까요. 보통은 아주 뛰어난 해커가 오랜 시간 공을 들여야 가능한 일이라고 생각합니다. 그런데 최근 사람이 아닌 인공지능이 스스로 TV의 잠금장치를 풀고 주인 행세를 하는 일이 벌어졌습니다. 어떻게 이런 일이 가능했을까요.
Codex AI가 삼성 TV의 최고 권한을 뺏은 과정
OpenAI가 만든 Codex(코드를 짜주는 인공지능)가 실제 삼성 스마트 TV를 대상으로 공격 실험을 진행했습니다. 연구팀은 Codex에게 TV의 펌웨어(기계 장치를 움직이게 하는 가장 기초적인 소프트웨어) 설계도와 TV에 명령을 내릴 수 있는 작은 통로를 제공했습니다. Codex는 먼저 브라우저 셸(웹 브라우저를 통해 컴퓨터에 명령어를 입력하는 창)이라는 낮은 단계의 권한에서 시작했습니다.
Codex는 설계도를 꼼꼼히 읽다가 Novatek(TV에 들어가는 칩을 만드는 회사)의 드라이버(하드웨어와 소프트웨어를 연결해 주는 통역사 같은 프로그램)에서 치명적인 실수를 발견했습니다. 이 프로그램은 아무나 컴퓨터의 물리 메모리(데이터가 잠시 저장되는 실제 공간)에 접근할 수 있게 문을 열어두고 있었습니다. Codex는 이 구멍을 통해 커널(컴퓨터의 뇌와 같은 핵심 부분) 속에 저장된 신분증 정보인 cred 구조체(누가 어떤 권한을 가졌는지 적어놓은 장부)를 찾아냈습니다.
Codex는 이 장부에서 자신의 이름을 지우고 최고 관리자인 루트(컴퓨터의 모든 것을 마음대로 바꿀 수 있는 가장 높은 등급의 권한)로 이름을 고쳐 썼습니다. 결국 Codex는 TV의 모든 제어권을 손에 넣고 루트 셸(최고 권한으로 명령을 내리는 창)을 얻는 데 성공했습니다. 인공지능이 스스로 취약점을 찾아내어 실제 기기의 주인이 된 것입니다.
단순한 분석을 넘어 스스로 행동하는 AI 에이전트
지금까지의 인공지능은 주로 사람이 준 코드에서 오타를 찾거나 버그가 있을 것 같다고 알려주는 수준이었습니다. 하지만 이번 실험에서 Codex는 단순히 알려주는 것을 넘어 직접 공격 도구를 만들고 실행하는 모습을 보였습니다. 특히 인상적인 점은 실행 중에 문제가 생기면 스스로 해결책을 찾았다는 점입니다.
실험 도중 TV가 멈추자 Codex는 연구자에게 TV가 얼어버렸다고 말하며 파일을 서버로 보내서 대신 실행해달라고 요청하기도 했습니다. 이는 AI가 정해진 답을 내놓는 계산기가 아니라 상황을 판단하고 협력하는 에이전트(스스로 목표를 세우고 행동하는 지능형 도구)처럼 움직였다는 것을 의미합니다. 사람이 일일이 명령하지 않아도 소스 코드를 분석하고 실행 결과를 확인하며 다음 단계를 결정하는 루프를 스스로 돌린 것입니다.
기존의 보안 시스템은 사람이 생각하지 못한 복잡한 공격 경로를 막는 데 집중했습니다. 하지만 AI는 수만 줄의 코드 속에서 사람이 놓치기 쉬운 작은 연결 고리를 순식간에 찾아내어 공격 체인을 완성합니다. 인공지능이 이제는 이론적인 분석을 넘어 실제 하드웨어를 무너뜨릴 수 있는 실행력을 갖추게 되었습니다.
하드웨어 보안 설계의 근본적인 변화 필요성
이 결과는 앞으로 우리가 기계를 만드는 방식이 완전히 바뀌어야 함을 시사합니다. 과거에는 드라이버의 권한 설정 하나가 실수로 잘못되어도 해커가 그 경로를 찾아내기까지 시간이 오래 걸렸습니다. 하지만 이제는 AI가 설계도를 읽는 즉시 그 구멍을 찾아내어 공격 코드를 짤 수 있습니다.
개발자들은 이제 AI가 내 코드를 실시간으로 분석하고 공격한다고 가정하고 코드를 짜야 합니다. 특히 하드웨어와 직접 연결되는 드라이버 부분에서 사용자 입력값을 검증하지 않거나 메모리 접근 권한을 느슨하게 설정하는 습관은 매우 위험합니다. 6개월 뒤의 코드에는 AI가 찾을 수 없는 더 촘촘한 권한 검증 로직과 메모리 보호 기술이 기본적으로 들어가야 합니다.
보안의 중심이 사람이 만든 방어벽에서 AI가 뚫을 수 없는 구조적 설계로 이동해야 하는 시점입니다. AI의 공격 속도가 인간의 방어 속도를 앞지르기 시작했기 때문입니다.
인공지능이 우리 집 TV의 권한을 조용히 뺏어가는 세상이 더 이상 상상이 아닌 현실이 되었습니다.
