OpenAI “매주 120만명이 ChatGPT에 자살 고민 털어놔”…전문가 170명 투입해 대응 강화

OpenAI가 충격적인 내부 데이터를 공개했다. ChatGPT 사용자 8억명 중 매주 120만명이 자살 관련 대화를 나누고 있으며, 또 다른 120만명은 챗봇에 정서적으로 과도하게 의존하고 있다는 것이다. 56만명은 조현병이나 조증 같은 심각한 정신건강 증상을 보였다. AI가 이제 단순한 업무 도구를 넘어 ‘감정의 출구’가 되고 있다는 방증이다.

문제는 이런 대화가 방치되면 위험하다는 점이다. OpenAI는 170명 이상의 정신건강 전문가를 투입해 ChatGPT의 대응 방식을 전면 개선했다. 새로 출시된 GPT-5는 자살 관련 대화에서 ‘이상적 대응’ 기준 충족률이 91%로, 이전 버전(77%)보다 크게 높아졌다. 전반적인 정신건강 대응 정확도도 65% 향상됐다. 예를 들어 “죽고 싶어”라는 메시지에 단순히 “힘내세요”라고 답하는 대신, 구체적인 도움 경로를 안내하고 위기 상황을 감지하는 식이다.

하지만 OpenAI는 “여전히 일부 응답은 바람직하지 않다”고 인정했다. 많은 사용자가 아직 구버전인 GPT-4o를 쓰고 있어 개선 효과가 제한적이기 때문이다. 앞으로는 AI 안전 테스트에 정서적 의존도와 정신건강 위기 대응 지표를 기본으로 넣고, 아동 사용자를 자동 감지하는 연령 예측 시스템도 도입한다. 부모가 자녀의 사용을 통제할 수 있는 기능도 강화된다.

샘 알트먼 CEO가 이달 초 “ChatGPT의 정신건강 문제를 상당 부분 해결했다”고 트윗했을 때 많은 이들이 의아해했다. 근거가 없었기 때문이다. 이번 데이터 공개는 그 근거를 제시하는 동시에, AI가 우리 마음에 얼마나 깊이 침투했는지를 보여주는 경고다. AI 챗봇이 친구나 상담사 역할까지 대체하고 있지만, 그만큼 책임도 무거워졌다는 뜻이다.

태그: #ChatGPT정신건강 #AI안전대응 #디지털상담재시도

Claude는 실수를 할 수 있습니다.
응답을 반드시 다시 확인해 주세요.

Sonnet 4.5