AI(인공지능)로 가짜 육성을 생성, 교장을 인종차별주의자로 몰아가려고 시도한 혐의를 받는 미국 고등학교 운동부 감독이 재판에 넘겨졌다.
1일(현지시간) AP통신은 지난주 업무방해·절도·스토킹·증인보복 등 혐의로 기소된 미국 메릴랜드주 볼티모어 파이크스빌 고등학교 운동부 감독 다존 다리엔(Dazhon Darien)이 AI를 가해에 이용했다고 보도했다.
다리엔은 지난 1월 자신이 근무하던 고교 교장 에릭 아이스워트(Eric Eiswert)의 목소리를 AI로 합성, 교장이 인종차별적이고 반유대주의적인 발언을 하는 것처럼 가짜 음성파일을 제작한 뒤 일부 교사에게 이메일 전송한 것으로 조사됐다.
가짜 음성파일은 SNS(사회관계망서비스)로 확산하면서 파문이 일었다. 학교에는 항의전화가 빗발쳤고, 교장은 신변위협을 받아 경찰의 자택경호를 받아야 했다. 지역신문 ‘볼티모어 배너’에 따르면 일부 교사들은 학교에 녹음기가 설치된 것으로 의심하고 전화를 자신의 차량에서 받기도 했다. 수사당국 분석결과에 따르면 가짜 음성파일에는 AI 생성 콘텐츠의 흔적이 있었다. 다리엔은 업무성과와 학교자금을 남용했다는 의혹이 교장으로부터 제기되자 가짜 음성파일을 공개한 것으로 조사됐다.
스콧 셸렌버거(Scott Shellenberger) 볼티모어 카운티 검사는 이 사건이 AI와 관련된 전국 최초의 사건으로 보인다고 밝혔다. 그는 주 법령이 신기술을 따라잡기 위해 개정돼야 할 수도 있다고 덧붙였다. 디지털포렌식과 허위정보를 연구하는 해니 파리드(Hany Farid) 미국 캘리포니아주립대 교수는 AP에 “모두가 딥페이크(Deepfake) 공격에 취약하다”며 다리엔의 사건이 기술규제 필요성에 대한 ‘탄광의 카나리아(다가올 위험을 미리 알려 주는 대상)’ 역할을 하고 있다는 분석을 내놨다.
댓글0