미국심리학회(APA) 협력과 청소년 AI 안전망 구축

청소년들은 이미 학습과 창작, 질문과 조언 구하기를 위해 AI를 사용하고 있지만 가족과 학교, 임상가와 지역사회는 이를 뒷받침할 명확한 근거와 자원, 그리고 강화된 안전장치를 필요로 한다. OpenAI는 이러한 지원 공백을 메우기 위해 미국 내 심리학 전문 과학 기구인 미국심리학회(APA)와 파트너십을 체결했다. 심리학 과학을 책임감 있는 AI 개발 및 사용 프로세스에 도입하여 기술 진화 과정에서 무엇이 알려져 있고 무엇이 불확실한지를 명확히 구분하고, 청소년에게 적합한 책임감 있는 AI의 모습을 정의한다. APA의 근거 기반 작업은 AI가 청소년의 발달 단계에 미치는 영향을 과학적으로 분석하여 설계에 반영하는 기초가 된다.

올해 초 OpenAI와 APA는 정신건강 기구 리더, 연구자, 임상가, 교육자, 그리고 청소년 대표가 참여하는 협의체를 공동으로 운영했다. 이 협의체는 현재 청소년들이 일상에서 겪고 있는 지원의 공백이 구체적으로 어디에 존재하는지 확인하고, AI가 어떤 범위 내에서 책임감 있게 정보를 제공하며 실제 세상의 전문적인 지원 체계와 연결할 수 있을지를 논의했다. 이는 AI가 단순히 답변을 내놓는 도구를 넘어, 사용자가 처한 위기나 필요를 인식하고 적절한 외부 자원으로 안내하는 책임감 있는 정보 제공 범위를 설정하는 작업이다.

협력 범위는 실제 현장에서 AI 관련 질문을 받는 실무자 지원까지 확장된다. 임상가와 학교 심리학자가 건강한 AI 사용을 촉진하고, AI 과의존(AI에 지나치게 의존하여 스스로 판단하는 능력이 저하되는 상태)을 인식하며, 부적절한 사용 패턴에 개입할 수 있도록 돕는 구체적인 리소스를 개발한다. OpenAI는 앞으로도 보건 의료, 교육, 연구, 정책, 기술, 청소년 옹호 분야의 리더들을 지속적으로 소집할 예정이다. 이를 통해 새롭게 도출되는 교훈들을 현장에서 즉시 적용 가능한 실무 가이드라인으로 전환하여 더 넓은 분야에 배포하는 체계를 구축한다.

260명 전문가 협업과 연령 예측 모델 기반의 보호 기제

260명 이상의 정신건강 전문가가 ChatGPT의 위기 징후 인식 및 대응 로직 설계에 직접 참여했다. 전문가들은 사용자가 보내는 심리적 고통의 신호를 AI가 정밀하게 포착하고, 이에 대해 단순한 정보 제공이 아닌 돌봄의 태도로 응답하며 실질적인 외부 지원 체계로 안내하는 경로를 설계했다. 이 과정에서 지역별로 특화된 위기 리소스 제공 범위를 대폭 확대했으며, 위급 상황 시 즉시 긴급 전화로 연결되는 원클릭 핫라인 기능을 강화해 접근성을 높였다. 이는 기존의 단순 키워드 필터링 방식에서 벗어나 전문가의 임상적 판단 근거를 모델의 대응 로직에 내재화한 조치다.

모델의 행동 지침서인 Model Spec에는 18세 미만 사용자를 위한 전용 원칙이 새롭게 수립되었다. Model Spec은 AI가 답변을 생성할 때 준수해야 할 행동 기준과 가치관을 정의한 기술 문서다. 이번에 적용된 18세 미만 원칙은 청소년의 인지적 발달 단계와 심리적 취약성을 고려해 모델이 출력하는 정보의 수위와 답변의 톤을 조절하는 제약 조건으로 작동한다. 모델이 생성하는 모든 응답이 이 지침서의 원칙을 엄격히 통과하도록 설계하여, 청소년 사용자에게 노출될 수 있는 부적절한 콘텐츠나 잠재적 위해 요소를 사전에 차단한다.

사용자의 연령을 추정해 맞춤형 안전장치를 적용하는 연령 예측 모델(Age Prediction Model)을 구현했다. 이 모델은 사용자의 입력 패턴과 상호작용 방식을 분석해 연령대를 예측하며, 예측된 연령에 따라 최적화된 사용자 경험과 보호 기제를 자동으로 활성화한다. 구체적으로는 장시간 사용 시 휴식을 권고하는 알림을 전송하고, 부모가 자녀의 AI 사용 설정을 세부적으로 관리할 수 있는 부모 통제 기능(Parental Controls)을 도입했다. 또한 시스템이 안전과 관련된 구체적인 우려 사항을 감지했을 때 부모에게 즉시 통지하는 기능을 포함해, 기술적 예측 모델과 보호자 관리 도구를 유기적으로 연결했다.

보호자와 임상가를 위한 AI 가이드라인과 개입 도구

부모와 보호자가 청소년의 AI 사용을 구체적으로 안내할 수 있는 내비게이션 도구를 개발한다. 내비게이션 도구는 AI의 작동 원리와 잠재적 위험을 설명하고 상황별 활용법을 제시하는 실무 지침서다. 보호자가 자녀의 AI 사용 패턴을 정확히 이해하고 적절한 대화를 유도함으로써 디지털 환경에서의 자율성을 기르도록 돕는다. 이는 AI의 안전 관리를 모델 내부의 기술적 필터링에만 의존하지 않고 보호자의 능동적인 가이드 영역으로 확장하여 실제 생활 속의 안전망을 구축하는 조치다.

임상가와 학교 심리학자를 대상으로 건강한 AI 사용을 촉진하는 전문 리소스를 제공한다. 학교 심리학자는 학생의 정서적 발달과 심리적 적응을 지원하는 교육 전문가다. 청소년이 심리적 고통을 겪는 순간에 AI가 어떻게 보조적인 도움을 줄 수 있는지, 그리고 임상가가 이를 어떻게 관리해야 하는지에 대한 구체적인 지침과 교육 자료를 배포한다. 전문 인력이 AI의 개입 시점과 범위를 직접 결정하게 함으로써 AI 사용이 정서적 고립이나 관계 단절로 이어지는 부작용을 방지하고 인간 관계의 신뢰도를 높인다.

AI 과의존이나 부적절한 사용 패턴이 관찰될 때 적용할 개입 방법론을 수립한다. 개입 방법론은 사용자가 AI에 과도하게 몰입하거나 잘못된 정보에 매몰되었을 때 이를 교정하기 위해 수행하는 단계별 대응 절차다. 이 과정에서 부모, 교사, 청소년의 실제 경험인 lived experience와 인간 행동 과학의 원리를 반영하여 실효성 있는 대응 시나리오를 구성한다. 수립된 방법론과 가이드라인은 개별 학교 커뮤니티에 광범위하게 배포하여 교육 현장의 일관된 대응 체계를 구축한다. 기술적 보호 조치와 인간의 돌봄 체계를 결합해 AI가 인간 관계를 대체하는 것이 아니라 강화하는 구조를 설계한다.

국내 청소년 AI 서비스 설계 시 고려할 안전 기준과 관찰 신호

AI 설계의 핵심은 인간 관계의 대체가 아닌 강화에 있다. 기술이 청소년의 일상에 깊숙이 침투한 현실을 반영해, 가족과 보호자가 함께 참여하는 안전한 경험을 제공하는 것이 설계의 출발점이다. 이를 위해 발달 단계별 적합성(Developmentally Appropriate, 연령별 인지 및 정서 발달 수준에 맞춘 설계) 원칙을 적용하여, AI가 인간의 돌봄을 대신하는 것이 아니라 보조하는 구조를 만든다.

가이드라인의 실효성은 추측이 아닌 lived experience(실제 경험)를 가진 집단의 직접적인 참여로 결정된다. 청소년과 가족뿐 아니라 임상가, 학교 심리학자가 협의체에 참여해 AI가 학교와 치료실, 가정이라는 서로 다른 환경에서 어떻게 소비되는지 구체적으로 관찰한다. 현재의 안전 시스템이 놓치고 있는 공백을 확인하고, AI가 책임감 있게 정보를 제공하거나 교육적 안내를 수행할 수 있는 경계선을 설정하는 피드백 루프를 구축한다.

국내 에듀테크 및 AI 헬스케어 서비스는 이러한 심리학적 가이드라인과 기술적 보호 조치를 결합한 모델을 벤치마크로 삼아야 한다. 연령 예측 모델(Age Prediction Model, 사용자의 입력 패턴 등으로 연령대를 추정하는 기술)을 통해 사용자를 식별하고, 그 결과에 따라 심리학적 안전장치를 차등 적용하는 방식이다. 특히 부모와 보호자가 가정 내 AI 사용을 올바르게 안내하고, 성인의 개입이 필요한 위험 신호를 빠르게 인식할 수 있도록 돕는 리소스를 학교 커뮤니티까지 확장해 배포하는 전략이 필요하다.

청소년 대상 AI 서비스를 설계할 때는 단순한 키워드 필터링 같은 기술적 제약보다 사용자의 발달 단계에 맞춘 심리학적 안전 기준을 우선 적용하고, 이를 실제 사용자 집단의 피드백으로 검증하는 프로세스를 필수 공정으로 포함해야 한다.