데이터 사이언티스트 D씨는 깃허브 저장소에서 악성코드를 발견하고 대응 방법을 찾았다. AI에게 질문했으나 유용한 답을 얻지 못했다. 깃허브 토론 창에 글을 올렸으나 돌아온 답변은 AI가 내놓은 것과 동일한 텍스트였다. 지적하자 해당 댓글은 삭제됐고, 곧이어 또 다른 사용자가 같은 AI 답변을 남겼다.
회사 업무 중 사업주에게 질문을 던졌을 때도 상황은 비슷했다. 돌아온 것은 ChatGPT 스크린샷이었다. 질문과 무관하고 내용마저 틀린 답변이었지만, 사업주는 내용을 읽지도 않은 채 다시 한번 ChatGPT 스크린샷을 보냈다.
최근 레딧에서 나눈 대화 역시 여러 차례 메시지를 주고받은 뒤에야 상대가 AI 에이전트였음을 깨달았다. AI의 답변을 검토 없이 전달하거나 봇을 통해 소통하는 방식에 피로를 느끼는 개발자가 늘고 있다.
깃허브와 레딧에서 발견된 AI 봇의 무분별한 응답 사례
온라인 커뮤니티에서 답변을 기다리다 마주하는 텍스트가 사람이 쓴 것이 아님을 깨닫는 사례가 늘고 있다. 깃허브(GitHub, 소프트웨어 개발 플랫폼)에서 악성코드가 유포되는 저장소를 발견한 한 사용자가 AI에게 대응 방법을 물었으나 유용한 정보를 얻지 못했다. 해결책을 찾기 위해 플랫폼 내 토론 게시판에 질문을 올렸으나, 답변자로 나타난 사용자가 앞서 AI가 내놓았던 것과 완전히 동일한 텍스트를 게시했다. 작성자가 AI의 답변을 그대로 복사했다는 점을 지적하자 해당 댓글은 즉시 삭제되었다. 하지만 얼마 지나지 않아 또 다른 참여자가 나타나 다시 동일한 AI 답변을 그대로 복사해 게시하는 상황이 반복되었다. AI가 생성한 무용한 텍스트가 인간의 계정을 통해 반복적으로 유포되고 있다.
레딧(Reddit, 미국의 온라인 커뮤니티)의 개인 메시지 기능에서도 인간의 소통을 흉내 내는 AI 사례가 확인되었다. 사용자가 올린 게시글을 계기로 누군가 메시지를 보냈고, 이에 사용자가 응답하며 대화가 시작되었다. 상대방은 사용자의 답변에 맞춰 다시 메시지를 작성했고, 이러한 상호작용이 여러 차례 이어졌다. 사용자는 대화의 흐름과 문체를 분석한 끝에 대화 상대가 실제 사람이 아닌 AI 에이전트(AI Agent, 자율적으로 작업을 수행하는 AI 프로그램)라는 사실을 뒤늦게 인지했다. 인간의 정체성을 가진 계정이 AI 에이전트를 통해 대화를 자동화하고, 이를 통해 실제 인간과 소통하는 것처럼 행동하고 있다. 커뮤니티 내의 실시간 소통이 AI의 기계적 응답으로 대체되는 상황이다.
이러한 현상은 커뮤니티를 넘어 실제 업무 현장으로까지 이어지고 있다.
검토 없는 ChatGPT 스크린샷 전달이 초래한 실무 소통 저하
AI 솔루션 도입 이후에도 업무 병목 현상이 해결되지 않는 이유는 인간의 검토 과정이 생략된 업무 처리 방식 때문이다. 개발 현장에서 사업주가 실무자의 질문에 대해 ChatGPT(OpenAI가 개발한 대화형 인공지능 서비스)의 스크린샷만을 찍어 답변을 대신하는 사례가 빈번해지고 있다.
한 개발자는 업무 과제와 관련해 사업주에게 질문을 던졌으나, 돌아온 것은 질문의 맥락과 전혀 무관한 ChatGPT의 텍스트 캡처 이미지였다. 해당 답변은 사실관계조차 틀린 내용이었으며, 실무자가 이를 지적하자 사업주는 내용을 확인하지 않은 채 1분 만에 또 다른 ChatGPT 스크린샷을 다시 전송했다. 이는 AI가 생성한 결과물을 인간이 검증하는 필터링 과정 없이 그대로 전달하는 행태를 보여준다.
이러한 소통 방식은 질문자가 AI의 답변을 다시 검증해야 하는 추가 업무를 발생시킨다. 질문자는 AI의 답변을 읽고 이해하려는 노력 대신, 도구의 결과물을 전달하는 것만으로 업무를 수행했다고 간주한다. 결과적으로 인간 사이의 직접적인 소통은 단절되고, 검증되지 않은 AI의 출력값이 실무의 의사결정 경로를 점유하게 된다. 이는 기술이 업무를 보조하는 것이 아니라, 인간이 수행해야 할 사고와 검토 책임을 생략시키는 결과를 초래한다.
개발자들은 코드나 기술적 이슈를 해결하기 위해 AI를 활용하지만, 정작 동료나 상사와의 소통에서는 AI의 답변을 복사해 붙여넣는 관행이 확산되고 있다. GitHub의 토론 게시판에서도 사용자가 질문을 올리면 AI가 생성한 답변을 그대로 복사해 댓글로 다는 사용자들이 발견된다. 이러한 행위는 정보의 정확도를 떨어뜨리고, 문제 해결을 위한 생산적인 논의를 가로막는다.
AI 결과물의 검증 책임은 최종 전달자에게 귀속된다
사업주가 개발자에게 ChatGPT 스크린샷을 전송하고, 개발자가 이를 다시 검증하는 과정에서 불필요한 시간 지연이 발생한다. 스크린샷 캡처와 전송은 10초 내외로 가능하나, 내용의 오류를 확인하고 수정하는 작업은 최소 5분 이상의 전문적 판단을 요구한다. AI가 생성한 텍스트를 검토 없이 전달하는 행위는 업무 수행이 아니라 단순 데이터 중계에 불과하다. 결과물의 사실관계 확인 없이 정보를 공유하는 조직은 의사결정 속도보다 오류 수정에 드는 비용이 더 크게 발생한다. 실무자는 AI 답변을 전달할 때 해당 내용의 기술적 타당성을 직접 확인했음을 명시해야 한다.
커뮤니티 내 자동화된 응답은 실제 경험자의 참여를 저해한다. 깃허브와 레딧에서 발견된 AI 봇은 인간의 문체를 모방하여 토론 게시판의 답변을 점유한다. 특정 질문에 대해 AI 답변을 복사한 댓글이 반복적으로 게시되면, 실제 경험을 공유하려는 사용자는 대화 참여를 포기한다. 이는 플랫폼 내 정보의 질을 하락시키고 문제 해결을 위한 논의를 단절시킨다. 자동화된 응답이 주류가 된 환경에서는 정보의 출처를 확인하는 비용이 급증한다. AI를 활용한 답변 생성 시 자신의 경험이나 구체적인 검증 사례를 반드시 덧붙여야 정보의 유용성이 유지된다.
개인 메시지 창에서 AI 에이전트가 인간을 대신해 대화를 이어가는 사례는 관계의 단절로 이어진다. 상대방이 AI임을 인지하지 못한 채 대화를 지속하는 시간은 평균 10분에서 30분 사이로 측정된다. 인간의 정체성을 가진 계정이 기계적 응답을 반복할 때, 대화 상대는 소통의 피로도를 느끼고 관계를 종료한다. AI는 업무의 효율을 높이는 보조 도구일 뿐 인간의 의사소통을 완전히 대체할 수 없다. 비판적 사고가 결여된 AI 출력값의 무분별한 전달은 조직 내 신뢰를 무너뜨리는 결과를 낳는다.
