인공지능(AI)의 폭주 패턴 대부분은 인간의 정신질환과 상당히 비슷하다는 충격적인 연구 결과가 나왔다.
영국 런던시티대학교(UCL) 인공지능 전문가 알리 헤사미 교수 연구팀은 2일 이런 내용을 담은 조사 보고서를 발표했다. 이번 연구는 국제 학술지 일렉트로닉스(Electronics)에 먼저 소개됐다.
연구팀은 인간의 생활을 윤택하게 하는 AI가 만약 제어를 벗어나 폭주할 경우 벌어질 상황을 조사했다. 지금까지 도출된 AI의 위험성을 몇 가지로 나눈 연구팀은 비대해진 초자아를 제어하지 못하거나 규칙을 극단적으로 중시해 유연성을 잃는 등 총 32개 유형의 폭주 패턴을 알아냈다.
흥미로운 점은 이 패턴들이 인간의 정신병과 비슷하다는 사실이다. 해답을 환각처럼 만들어내는 증상부터 인간의 가치관이나 목표와 완전히 어긋나는 행동 등은 전형적인 정신질환의 유형이다.
알리 교수는 “AI가 폭주할 경우 인간은 충분히 대응할 매뉴얼을 갖고 있어야 한다”며 “우리는 예상 가능한 AI 폭주의 패턴을 분석, 사이코패시아 마키날리스(psychopathia machinalis) 즉, AI의 정신병리라는 매뉴얼을 만들어냈다”고 설명했다.
이어 “AI가 본래 목적에서 벗어났을 때, 그 행동은 정신질환에 걸린 인간과 매우 흡사했다”며 “이 경우 금지어를 설정하거나 필터로 행동을 제한하는 등 제재를 해도 AI를 완전히 억제할 수 없다”고 덧붙였다.
연구팀은 AI가 보다 자율적으로 생각하고 스스로 자신을 조정할 힘을 갖기 시작하면 외부 명령만으로는 제어에 한계가 있다고 강조했다. 연구팀은 만약의 사태를 막기 위해서는 AI의 안정을 유도하는 일종의 심리 치료법이 필요하다고 제안했다.
알리 교수는 “폭주하는 AI에 적용 가능한 심리요법, 일명 로봇 정신 조정 치료(therapeutic robopsychological alignment)에 주목할 만하다”며 “인간에 적용하는 각종 테라피와 같이 AI가 자신의 추론을 돌아보고 오류를 수정하거나, 가치관을 안정적으로 유지하도록 압박하는 기법이 필요하다”고 강조했다.
교수는 “예컨대 AI로 하여금 자신의 추론 프로세스를 혼잣말처럼 소리 내게 하고, 그것을 받아쓰거나 조리 있게 정리하게 하면 효과가 있다”며 “특히 인간이 잘못을 지적할 때 반항하지 않고 건전한 방향으로 수정하도록 훈련하는 것이 중요하다”고 언급했다.
정이안 기자 anglee@sputnik.kr
댓글0