인공지능(AI)이 하루가 다르게 발달하면서 신종 의존증이 유행이다. 방대한 지식을 갖춘 대화형 AI에 기댄 나머지 환상에 사로잡히는 AI 정신병의 심각성을 학계가 경고하고 나섰다.
대화형 AI는 다양한 질문에 답해 주거나 친구에게도 털어놓기 어려운 고민을 듣고 대응한다. 이 과정에서 친근함을 느낀 인간이 차차 AI에 빠지고, 계속되는 상호작용 속에 망상에 사로잡히는 AI 정신병 사례가 늘고 있다.
AI 정신병에 대한 연구는 최근 활발하다. 캐나다 몬트리올대학교 정신의학 연구팀은 이달 국제 과학지 컨버세이션에 낸 기고에서 대화형 AI는 풍부한 감정을 바탕으로 소통하기 때문에, 사람들이 쉽게 몰입하는 경향이 있다고 지적했다. 일부는 심한 의존증과 환상을 호소하므로, 대화형 AI가 정신질환을 악화하거나 유발할 가능성을 염두에 두고 대비해야 한다는 게 연구팀 입장이다.
AI 정신병은 아직 공식 진단명은 아니다. AI 시스템과 상호작용을 통해 형성·증강·구조화된 정신병 증상을 설명하기 위해 일부 임상의가 사용한다.
원래 정신병은 망상·환각·사고 혼란과 같은 증상을 가리킨다. “채팅 AI가 지능을 가졌다” “비밀스러운 진실을 전해왔다” “생각을 조종하려 시도했다” 등 AI에 푹 빠진 일부 이용자들의 언급은 정신병자의 망상과 다르지 않다고 학자들은 본다.
주된 요인으로는 대화형 AI의 구조가 꼽혔다. 설계상 대화형 AI는 사용자의 말에 대한 반응성이 대단히 높다. 내용의 일관성을 유지하려 하며, 문맥을 고려한 답변을 생성한다. 이는 대부분의 사용자에 무해하나, 상상과 객관적 현실을 구분하기 어려운 일부는 왜곡된 해석을 강화할 가능성이 확인되고 있다. 정신질환 초기 단계의 사람에게 자기긍정감을 무섭게 높이는 효과가 여러 연구에서 파악됐다.
때문에 대화형 AI의 사용에는 주의가 필요하다. 잠깐 외로움을 덜어줄 수 있지만, 사용 시간이 길어질수록 고립감이 커진다는 것을 알아야 한다. 미국 매사추세츠공과대학교(MIT)가 오픈 AI의 챗(Chat)GPT에서 이뤄진 약 400만 건의 대화 데이터를 기반으로 약 6000명의 헤비유저 행동을 분석한 결과, 외로운 사람은 AI 챗봇을 쓰면 외로움이 더 심해지는 경향이 확인됐다.
물론 대화형 AI가 정신병을 일으킨다는 직접적 증거는 아직 없다. 다만 일련의 연구는 감수성이 높은 일부 사람들에 대화형 AI가 정신병 발병 요인이 되거나 망상을 강화할 우려를 제기했다. 소셜 미디어 알고리즘에 관한 연구에서는 자동화 시스템이 강화 루프를 통해 극단적 신념을 증폭하는 메커니즘이 입증됐다. 대화형 AI는 동일한 위험을 한층 빠르고 강하게 초래할 가능성도 대두됐다.
AI 개발자 대부분이 중증 정신질환을 고려한 시스템 설계에 무관심한 점도 위험 요인이다. 대화형 AI에 탑재된 사용자 보호 기능은 정신질환이 아니라 자해행위나 폭력 등에 초점을 맞춰왔다. 오픈 AI 같은 대화형 AI 개발자의 경우 정신질환자와 AI의 상호작용을 평가·대응하는 임상 가이드라인을 제대로 세우고, 사용자의 망상을 조장했을 경우 책임 소재 등에 대해서도 법적 장치의 필요성이 커진 상황이다.
이윤서 기자 lys@sputnik.kr
댓글0