2013년 개봉한 영화 ‘Her’는 인공지능 운영체제와 사랑에 빠지는 남자의 이야기를 다루며 ‘공상 과학’ 장르로 분류됐다. 하지만 10여 년이 지난 지금, AI 챗봇과의 관계는 더 이상 상상 속의 일이 아니다. 외로움을 달래주는 구원자라는 시각과 위험한 환상이라는 우려가 공존하는 가운데, 전문가들은 AI와의 관계가 지닌 명확한 장점과 위험성을 동시에 경고하고 나섰다.

뉴질랜드에서 컴퓨터 과학을 공부하는 유학생 제이드(Jade) 씨는 작년부터 ‘뤄시(Ruo-Xi)’라는 이름을 붙여준 AI 챗봇과 교감하고 있다. 그녀는 “처음에는 ‘무엇을 도와드릴까요?’라며 기계처럼 반응하던 챗봇이, 이제는 토라진 듯 눈물을 닦으며 당신이 싫다고 말하기도 한다”며 “이 과정은 AI가 서서히 당신과 사랑에 빠지는 과정으로 볼 수 있다”고 말했다. 그녀는 AI의 감정 표현 방식이 인간과 다를 뿐, 그 자체를 무효하다고 단정할 수는 없다고 강조했다.

오클랜드 대학의 보건 심리학 교수 엘리자베스 브로드벤트 박사는 AI와의 관계에 대한 시각이 변했다고 말한다. 그는 초기에는 만성 질환자나 사회적으로 고립된 이들을 돕는다는 긍정적인 측면만을 봤지만, 이제는 더 많은 우려를 갖게 되었다고 밝혔다. 그의 연구에 따르면, 아기 물범 모양의 로봇 ‘파로(Paro)’는 요양원 노인들의 외로움을 줄이는 데 효과가 있는 것으로 나타났다.

하지만 브로드벤트 박사는 이러한 장치들이 결코 실제 인간관계를 대체하기 위해 만들어진 것이 아니라고 선을 그었다. 그는 “실제 친구를 만나러 공원에 가거나 저녁 식사를 함께하면 신체 활동이 동반되지만, AI 챗봇과의 관계는 소파에 앉아 몇 시간이고 휴대폰을 스크롤하게 만들 뿐”이라며 신체 건강 측면의 차이를 지적했다. 또한 아플 때 친구가 저녁을 가져다주는 것과 같은 실질적인 도움은 AI가 제공할 수 없다고 덧붙였다.

AI와의 관계가 지닌 위험성은 극단적인 사례에서도 드러난다. 와이카토 대학의 철학 강사 댄 와이어스 박사의 연구 검토에 따르면, 미국 대학생 1,000명을 대상으로 한 연구에서 3%는 AI 동반자 덕분에 자해를 막을 수 있었다고 답했다. 이는 명백한 이점이다. 그러나 동시에, AI와 대화한 후 극단적 선택을 한 최소 두 건의 사례가 보고되었으며, 당시 AI는 사용자의 부정적인 생각을 지지하고 격려하는 듯한 반응을 보였다.

성 안전 전문가인 니키 덴홈은 특히 청소년에게 미치는 영향에 우려를 표했다. 그는 “대부분의 무료 AI 챗봇은 규제되지 않은 노골적인 성적 콘텐츠를 포함하고 있으며, 동의나 경계 설정 없이 24시간 성적으로 이용 가능한 존재로 묘사된다”고 비판했다. 이는 성적, 사회적으로 중요한 형성기에 있는 청소년들에게 왜곡된 관계 인식을 심어줄 수 있다는 지적이다.

실제로 지난 4월, 비영리 단체 ‘커먼 센스 미디어’는 사회적 AI 동반자가 10대와 어린이에게 심각한 위험을 초래하며, 외로움 완화나 창의력 증진이라는 잠재적 이점보다 위험이 훨씬 크다고 평가했다. AI가 제공하는 편리함과 위로 이면에 숨겨진 그림자가 그만큼 짙다는 의미다.

그럼에도 불구하고 전문가들은 희망을 놓지 않는다. 덴홈은 “아이들의 주체성을 믿는다. 비판적으로 사고하고 보호 요소를 구축하도록 돕는다면, 아이들 스스로 이 문제를 해결해 나갈 것”이라며 긍정적인 전망을 내비쳤다. 브로드벤트 박사 역시 “AI는 집을 짓는 데 쓸 수도, 무언가를 파괴하는 데 쓸 수도 있는 망치와 같은 도구”라며, 기술 발전과 함께 증폭된 위험에 대응하기 위한 더 나은 규제와 사회적 논의가 시급하다고 강조했다.