중국 첨단 전투기 설계자들이 군용 AI가 항공기 제원과 레이더 정보를 잘못 만들어내는 ‘환각’ 위험을 경고했다. 국방 정보 분야에서 치명적 오류로 이어질 수 있다는 지적이다.
중국 첨단 전투기의 설계자들이 군용 항공기용 인공지능(AI)이 항공기의 길이·탑재량·무기·속도·전투 반경 등을 잘못 인식하는 ‘환각’ 위험성이 있다고 지적했다. 홍콩 사우스차이나모닝포스트(SCMP)에 따르면, AI 모델이 생성한 콘텐츠가 기본적인 물리 법칙이나 설계 원칙, 운영상의 제약을 무시할 수 있다는 경고가 나왔다. 이 지적은 인민해방군 주력 J-20과 차세대 스텔스기 J-36을 개발하는 중국항공공업집단(AVIC) 청두 연구소 엔지니어들로부터 나왔다.
“사양을 임의로 만들어낸다”…설계자들의 우려
장셴저 연구원 등은 국영 방산업체 노린코가 발행하는 학술지에 “AI 모델은 항공기의 길이, 탑재량, 무기, 속도, 전투 반경과 같은 사양을 임의로 만들어낼 수 있다”는 논문을 발표했다. 장 연구원은 “레이더 스캔 범위와 주파수 대역까지 잘못 예측할 수 있다”며 “잘못된 결과를 도출하는 이른바 ‘환각 효과’는 국방 정보 분야에서 심각한 결과를 초래할 수 있다”고 말했다. 환각 요소에는 심지어 완전히 허구적인 군사 기지나 부대, 훈련 이동까지 포함될 수 있다.
왜 위험한가…전투기 설계의 첫 단추
논문에 따르면 모든 전투기는 적과 전장에 대한 깊이 있는 이해를 바탕으로 설계된다. 설계자들은 적의 레이더 탐지 범위와 주파수, 공대공 미사일의 회피 불가능 구역, 전자전 시스템의 주파수 대역, 조기경보기의 순찰 위치, 지상 방공망 구축 방식 등을 종합해 스텔스 설계와 레이더 출력, 항속거리 등을 결정한다. 장 연구원은 이런 정보 수집이 전투기 개발의 첫 단계라며, 대규모 언어모델이 권위 있는 군사 자료로 훈련되는 경우가 드물어 물리 법칙과 설계 원칙을 무시하는 답을 내놓기 쉽다고 경고했다.
인간 검증의 한계…”교차 검증 필요”
최종 결정은 인간이 내리더라도, AI가 처리하는 정보의 속도가 빠르고 양이 방대해 AI가 추천하는 목표물을 제시간에 철저히 검증할 수 있을지 의문이 제기된다. 장 연구원은 AI 오류를 줄이는 방법으로 신뢰할 수 있는 국방 데이터 입력, 검색 가능한 참조용 지식 기반 구축, 명확하고 구체적인 프롬프트 작성, 그리고 여러 AI의 토론을 통한 교차 검증 활용 등을 제시했다.
AI가 현대전의 두뇌로 빠르게 편입되는 가운데, 정작 그 두뇌가 ‘그럴듯한 거짓’을 만들어낼 수 있다는 경고가 개발 당사국 내부에서 나왔다는 점은 의미심장하다. 속도와 정확성 사이에서 인간의 통제와 검증이 여전히 마지막 방어선임을 보여준다. (사진 출처=신화·뉴시스)
댓글0