AI가 아동과 청소년에게 미치는 위험성을 평가하는 기준을 마련하려는 움직임이 시작됐다. 시민단체 커먼센스미디어가 설립한 ‘청소년 AI 안전 연구소’는 자동차 충돌시험처럼 인공지능 서비스의 위험도를 객관적으로 측정할 수 있는 체계를 구축하겠다는 계획을 밝혔다. 이 연구소는 앞으로 AI의 잠재적 위험을 공개적으로 평가할 수 있는 기준도 만들 예정이다.
이 연구소의 초대 집행이사로는 톰 시걸 전 구글 신뢰·안전 담당 부사장이 선임됐다. 그는 2004년부터 2019년까지 구글에서 플랫폼 안전성 강화를 맡았으며, 구글 퇴사 후에는 AI 유해 요소 감지 스타트업인 ‘트러스트랩’을 공동 창업해 운영해왔다. 오픈AI 재단과 앤트로픽도 이번에 출범한 청소년 AI 안전 연구소를 후원하고 있다.
톰 시걸 이사는 최근 로이터통신과의 인터뷰에서 “AI가 아동에게 미치는 영향과 관련해 매우 심각한 상황에 놓여 있다”며, 과거 사회관계망서비스(SNS) 확산 때와 마찬가지로 기술기업들이 충분한 안전장치 없이 서비스를 빠르게 출시하고 있다고 우려했다. 그는 기술 업계가 외부의 도움 없이 스스로 문제를 해결할 수 있다는 생각은 비현실적이라고 강조했다.
그는 특히 미성년자를 대상으로 한 AI 서비스에서 안전 대책이 미흡한 점을 지적하며, SNS 개발 과정에서의 시행착오가 AI 분야에서도 반복되고 있다고 말했다. 시걸 이사는 청소년 자살과 정신질환, 그리고 AI 의존에 따라 비판적 사고 능력이 저하되는 ‘인지 외주화’ 현상을 대표적인 피해 사례로 들었다.
이에 대한 해결책으로 시걸 이사는 미성년자의 챗봇 접근을 차단할 수 있는 강력한 연령 확인 절차 도입과, 검색엔진에서 자동으로 노출되는 AI 답변을 이용자가 끌 수 있는 선택권 보장을 제시했다.
이 같은 지적에 대해 구글 대변인은 자사 AI 검색 기능이 아동·청소년의 정보 탐색에 도움이 된다고 설명했다. 오픈AI 역시 서비스 이용 가능 연령에 미달하는 이용자를 행동 분석 등을 통해 식별하고 있다고 밝혔다.
댓글0