Article 6와 '의도된 목적'에 따른 고위험 AI 분류

성능이 좋을수록 위험하다고 생각하기 쉽다. 하지만 EU AI 법은 모델의 지능이나 크기가 아니라 그 시스템이 어디에 쓰이는지를 기준으로 위험도를 나눈다. 기술적 능력이 뛰어나도 단순 추천에 쓰이면 저위험이지만, 성능이 낮아도 채용 심사에 쓰이면 고위험으로 분류될 수 있다.

분류의 핵심은 의도된 목적(intended purpose)이다. 이는 시스템의 기술적 사양보다 문서화 방식, 마케팅 문구, 배포 경로, 실제 사용 방식에 더 큰 비중을 둔다. 즉, 개발자가 제품 설명서에 어떻게 적었는지와 시장에 어떤 용도로 홍보했는지가 규제 대상 여부를 결정한다.

EU AI 법 Article 6는 고위험 AI로 분류되는 두 가지 경로를 정의한다. 첫 번째는 특정 규제 대상 제품의 안전 구성 요소로 AI가 사용되는 경우다. 두 번째는 사람의 건강, 안전, 또는 기본권에 상당한 영향을 미칠 수 있는 민감한 사례에 AI를 배포하는 경우다.

따라서 실무자는 현재 운영 중인 AI 시스템의 문서와 실제 용도가 일치하는지 먼저 확인해야 한다. 마케팅 자료에 적힌 용도와 실제 현장에서 사용되는 방식이 다를 때 규제 리스크가 발생하기 때문이다.

Article 6(3) 면제 조항과 기업의 실무 대응 체계

다만 모든 시스템이 고위험으로 분류되는 것은 아니다. EU AI 법의 Article 6(3)는 특정 조건을 충족할 때 고위험 분류에서 제외될 수 있는 면제 조항을 두고 있다. 하지만 기업의 자체 평가(self-assessment)만으로는 규제 당국을 설득하는 데 실무적인 한계가 존재한다.

이러한 대응은 기술 팀 단독으로 수행할 수 없으며 법무(Legal), 거버넌스(Governance), 기술(Technology) 팀이 공동으로 대응해야 한다. AI 거버넌스 솔루션인 Airia는 고위험 분류 여부를 결정하고 이에 대응하기 위한 의사결정 프레임워크를 제공한다. 규제 대응은 기술적 검토를 넘어 법적 근거를 확보하는 거버넌스 체계 구축의 문제다.

GDPR 사례처럼 EU AI 법 역시 글로벌 표준으로 작용해 국내 기업의 컴플라이언스 기준에 영향을 미친다.

실무자는 이제 기술 스펙 시트가 아니라 제품 정의서와 운영 매뉴얼을 다시 읽어야 한다. Article 6의 분류 경로와 Article 6(3)의 면제 조건을 대조해 현재 운영 중인 AI의 용도가 고위험군에 속하는지, 이를 문서로 증명할 수 있는지 점검하는 것이 우선이다. 결국 규제 대응의 성패는 기술력이 아니라 용도를 정의하는 문서의 정교함에서 결정된다.