요즘은 숙제를 하거나 새로운 아이디어를 짤 때 인공지능에게 물어보는 일이 많다. 질문만 하면 척척 답을 내놓으니 마치 똑똑한 비서가 생긴 기분이다. 그런데 우리가 인공지능과 대화하며 생각을 맡길수록, 정작 우리 머릿속에서 일어나는 진짜 생각의 힘은 약해지고 있는 것은 아닐까.

과거 데이터에 갇힌 LLM(많은 글을 읽고 사람처럼 말하는 인공지능)

인공지능은 세상의 모든 것을 실시간으로 아는 것이 아니다. 기본적으로 베이스 모델(처음으로 엄청난 양의 데이터를 공부한 기본 모델)이라는 것을 먼저 만들고, 그 위에 새로운 정보를 덧붙여 학습한다. 문제는 이 기본 모델이 만들어진 시점의 생각에 강하게 묶여 있다는 점이다.

예를 들어 갑자기 미국이 그린란드라는 섬을 공격하려는 상황이 벌어졌다고 가정해 보자. 불과 몇 달 전까지만 해도 상상할 수 없던 일이다. 이때 Gemini 3 Pro(구글의 최신 인공지능 모델)나 GPT-5.3-codex(OpenAI의 특정 버전 인공지능 모델) 같은 최신 도구들에게 물어보면, 이들은 이 사건을 가짜 뉴스라고 하거나 일어날 수 없는 일이라고 답할 때가 많다.

인공지능은 겉으로는 최신 정보를 말하는 것 같지만, 속으로는 여전히 옛날 데이터가 만든 생각의 틀을 가지고 있다. 결국 인공지능은 자신이 배운 과거의 패턴대로만 세상을 바라본다.

생각의 색깔을 하나로 만드는 유도 편향(특정한 생각의 틀에 갇혀 그것만 정답이라고 믿는 성질)

사람의 생각은 다이내믹 다이얼렉틱 서브스트레이트(사람들이 서로 다른 생각을 섞어서 새로운 정답을 찾아내는 과정)를 통해 발전한다. 쉽게 말하면 서로 다른 색깔의 물감을 섞어 세상에 없던 새로운 색을 만들어내는 것과 같다. 이렇게 엉뚱하고 새로운 생각들이 모여 인류의 과학과 문화가 발전했다.

하지만 인공지능은 유도 편향(특정한 생각의 틀에 갇혀 그것만 정답이라고 믿는 성질)을 가지고 있다. 인공지능이 좋아하는 특정 패턴이 있고, 자꾸 그쪽으로 답을 이끄는 성질이다. 비유하자면 모든 물감을 섞으라고 했는데, 인공지능은 자꾸 파란색만 섞으라고 권하는 셈이다.

만약 전 세계 사람들이 똑같은 5개의 인공지능 모델만 사용해 아이디어를 짠다면 어떻게 될까. 그것은 전 세계 모든 사람이 오직 5명의 사람하고만 상담하며 인생의 중요한 결정을 내리는 것과 같다. 아무리 그 5명이 공정하게 말하려 해도, 결국 사람들의 생각은 그 5명의 관점으로 좁아질 수밖에 없다. 결국 다양성이 사라지면서 인류가 찾아낼 수 있었던 위대한 발견의 기회들이 사라지게 된다.

결정권자의 생각까지 좁히는 인공지능의 위험

이런 문제는 특히 나라의 정책을 정하는 정치인이나 회사를 이끄는 경영자들에게 위험하다. 이들이 인공지능이 제시하는 좁은 생각의 틀에 갇히면, 세상이 변하고 있는데도 과거의 방식만 고집하게 된다. 예를 들어 다른 나라의 서비스에 너무 의존하고 있는 위험한 상황인데도, 인공지능이 괜찮다고 말하면 그 위험을 깨닫지 못할 수 있다.

개인이 직접 인공지능을 가르치려면 GPU 클러스터(인공지능을 가르치기 위해 연결한 아주 강력한 컴퓨터 뭉치)라는 엄청나게 비싼 장비가 필요하다. 대부분의 사람은 이미 만들어진 인공지능을 가져다 쓸 수밖에 없으므로, 인공지능이 가진 생각의 편향에 노출될 가능성이 매우 높다.

결국 인공지능이 주는 답이 정답이라고 믿고 그대로 따라가는 습관은 우리의 사고 범위를 좁히는 결과를 낳는다.

인공지능의 편리함에 기대기보다 다른 사람들과 치열하게 대화하며 생각의 근육을 키워야 한다.