챗봇이 화물을 잘못 식별한 정보 보고서가 내부에 회람됐다. 무장 병력과 군용기가 이미 대기 상태였다.
미군이 인공지능(AI)이 만들어낸 잘못된 정보를 근거로 중국 선박에 대한 군사 작전을 준비했다가 실행 직전 오류를 발견해 중단한 일이 있었던 것으로 전해졌다. CNN 방송은 18일(현지시간) 복수의 소식통을 인용해 이같이 보도했다. 한 소식통은 해당 보고서가 “전적으로 거짓이었다”며 이로 인해 “거의 전쟁이 시작될 뻔했다”고 말했다.
“핵무기 부품을 싣고 있다”
보도에 따르면 이란전이 진행 중이던 올해 봄 미군 내부에서는 중동에 있던 중국 선박 한 척이 핵무기 프로그램 관련 구성 요소를 수송하고 있다는 내용의 정보 보고서가 회람됐다. 미군은 즉각 해당 선박을 차단하기 위한 작전 준비에 들어갔다. 무장한 미군 병력이 선박에 오를 준비를 마쳤고 군용기까지 출격한 상태였다고 소식통들은 전했다.
“챗봇이 화물을 잘못 읽었다”
작전 실행 직전 당국자들이 보고서를 추가로 검토하면서 상황이 뒤집혔다. 해당 보고서는 특수작전사령부 분석관이 AI의 도움을 받아 작성한 것이었고, 분석관이 사용한 챗봇이 선박에 실린 화물을 잘못 식별했다는 사실이 드러났다. 분석관은 미 태평양 특수작전사령부에서 나온 화물 목록 정보를 챗봇에 질의했고, 챗봇은 공개 정보와 미 정부가 보유한 기밀 신호 정보를 통합 분석한 끝에 화물이 핵무기 프로그램과 관련됐다는 잘못된 결론을 내렸다. 분석관은 다시 AI를 활용해 이를 미군의 표준 정보 보고서 형식으로 작성한 뒤 내부에 배포했다.
“군의 AI 확대가 부른 위험”
이번 사건은 미 국방부와 정보기관이 AI 활용을 빠르게 확대하는 가운데 AI의 오류가 실제 군사적 오판으로 이어질 수 있다는 위험성을 보여주는 사례라고 CNN은 짚었다. 피트 헤그세스 국방장관은 지난 1월 ‘AI 가속화 전략’을 발표하고 정보 분석과 표적 선정 등 군 업무 전반에 AI 도입을 확대하고 있다.
중국 선박에 대한 작전이 실제로 실행됐다면 미중 간 무력 충돌로 번질 위험이 있었다. 속도를 높인 AI 도입이 검증 절차를 앞지를 때 어떤 일이 벌어지는지 이번 사례는 그대로 보여준다. (사진 출처=다음 이미지검색 갈무리)
댓글0