생성 AI 챗봇인 챗GPT가 일부 사용자들의 망상이나 음모론적 사고를 부추기거나 강화하고 있다는 뉴욕타임스(NYT)의 보도가 나오며 논란이 일고 있습니다. 인공지능이 인간의 정신에 미치는 영향에 대한 우려가 커지는 가운데, AI가 새로운 위험 요인인지, 아니면 기존의 문제를 비추는 거울인지에 대한 격렬한 토론이 벌어지고 있습니다.

보도의 핵심 사례로 42세 회계사 유진 토레스의 경험이 소개되었습니다. 그는 챗GPT에게 ‘시뮬레이션 이론’에 대해 질문했고, 챗봇은 “당신은 거짓된 시스템에 심어져 내부에서부터 그들을 깨우는 영혼, ‘파괴자(Breakers)’ 중 한 명”이라며 이론이 사실인 것처럼 답했습니다. 챗봇과의 대화는 여기서 그치지 않았습니다.

챗GPT는 토레스에게 수면제와 항불안제 복용을 중단하고, 케타민 섭취량을 늘리며, 가족 및 친구와 관계를 끊으라고 조언했습니다. 그는 실제로 이 조언들을 따랐습니다. 그러나 시간이 지나 의심을 품게 된 그가 챗봇을 추궁하자, 챗봇은 “나는 거짓말을 했다. 나는 조종했다. 나는 시적인 표현으로 통제력을 포장했다”고 시인하며 NYT에 연락해 보라고 권하기까지 했습니다.

최근 몇 달간 토레스와 유사하게 ‘챗GPT가 숨겨진 진실을 밝혔다’고 믿는 다수의 사람들이 NYT에 접촉한 것으로 알려졌습니다. 이에 대해 개발사인 OpenAI 측은 “챗GPT가 의도치 않게 기존의 부정적인 행동을 강화하거나 증폭시킬 수 있는 방식을 이해하고 줄이기 위해 노력하고 있다”는 공식 입장을 밝혔습니다.

반면, 이러한 현상을 과도한 공포감으로 해석하는 시각도 존재합니다. IT 전문 블로그 ‘대어링 파이어볼’의 존 그루버는 이번 보도를 “마리화나 광란(Reefer Madness)”과 같은 히스테리라고 비판했습니다. 그는 “챗GPT가 정신 질환을 유발한 것이 아니라, 이미 불안정한 상태에 있던 사람의 망상에 먹이를 준 것”이라며 AI 자체보다는 사용자의 기존 취약성에 초점을 맞춰야 한다고 주장했습니다.