지난 2월 28일, 도널드 트럼프 전 대통령은 미국 AI 개발사 앤트로픽(Anthropic)이 연방 정부와 추가 계약을 체결하지 못하도록 하고, 모든 정부 계약업체가 앤트로픽과 거래하는 것도 금지하는 조치를 내렸다. 이 같은 제재는 통상 적대국 기업에 적용되는 수준이라는 평가가 나온다.
그렇다면 앤트로픽의 ‘문제’는 무엇이었을까. 국방부가 자사의 AI 시스템 ‘클로드(Claude)’를 미국 시민 감시나 인간의 개입 없이 살해 여부를 판단하는 자율 무기 체계에 활용할 수 있도록 허용해 달라고 요청했지만, 이를 거부했다는 것이다.
피트 헥세스 국방장관은 과거 예멘 공격 계획을 기자가 포함된 단체 메시지로 공유한 전력이 있다. 또 법 조항을 그대로 인용했다는 이유로 한 우주비행사를 징계하려 했고, 연방항공청(FAA)이 조종사의 실명 위험을 경고했음에도 승객을 태운 항공기가 비행 중인 항로 아래에서 파티용 풍선을 고출력 레이저로 쏴 떨어뜨렸다는 논란에도 휩싸였다.
그런 헥세스 장관이 이번에는 앤트로픽에 자사의 AI 시스템을 계약상 제한 없이 활용할 수 있도록 허용해 달라고 요구했다는 것이다. 앤트로픽이 이를 거부하자, 트럼프 전 대통령이 곧바로 해당 회사를 사실상 ‘블랙리스트’에 올렸다는 설명이다.
더 우려되는 점은 무엇일까. 트럼프 행정부가 중국식 대중 감시 체제를 참고해 유사한 시스템을 구축하려 한다는 의혹일까, 아니면 논란을 반복해 온 인사가 강력한 AI 기술에 대한 접근 권한을 쥐고 있다는 사실일까.
중국 따라잡기… 최악의 방식으로
트럼프는 “글로벌 기술 패권”과 “AI의 전방위적 활용”을 내세우며 중국을 따라잡겠다고 공언해 왔다. 중국의 권위주의 체제는 세계 최고 수준의 대중 감시 시스템을 운용하는 것으로 알려져 있다. 개인의 동의와 무관하게 얼굴 인식 정보와 생체 정보, 각종 개인 데이터를 광범위하게 수집해 왔다.
시민들이 횡단보도에 서 있거나 대중교통을 이용하고, 일상적인 소비 활동을 하는 동안에도 얼굴 정보, 대화 내용, 소셜미디어 게시물, 휴대전화와 각종 기기에서 발생하는 데이터가 축적된다. 이렇게 모인 정보는 법 집행과 사회적 행동 감시, 특정 서비스 접근 통제 등에 활용되는 AI 기반 데이터베이스로 통합된다.
중국의 이러한 구조가, 트럼프를 후원해 온 억만장자 피터 틸이 설립한 팔란티어(Palantir)가 구축 중인 데이터 통합 플랫폼과 유사하다. 이 플랫폼은 미국 내 법 집행기관과 이민세관단속국(ICE), 국세청(IRS), 국토안보부(DHS), 법무부(DOJ), 군 등 다양한 기관이 얼굴 인식 데이터, 차량 번호판 인식 정보, 각종 생체 데이터를 통합해 분석할 수 있도록 설계된 것으로 알려져 있다. 광범위한 감시 체계로 활용될 수 있다는 점에서 우려의 목소리도 적지 않다.
아무도 믿지 않는다
앤트로픽과 국방부(DOD) 간 계약서에는 클로드를 미국인을 대상으로 한 대규모 감시나 자율 무기 체계에 활용할 수 없다는 조항이 명시돼 있었다. 앤트로픽이 이미 일부 기밀 군사 네트워크에 클로드를 연동한 상태였지만, 약 2억 달러(약 2,680억 원) 규모의 해당 계약은 클로드를 미국인 대상 감시나 자율 무기에 사용하는 것을 분명히 금지하고 있었다. 여기서 자율 무기란, 인간의 직접적 개입 없이 목표를 식별·선정·타격할 수 있는 이른바 ‘킬러 로봇’을 뜻한다.
그런데 헥세스 장관이 이끄는 국방부는 바로 이 계약상의 제한을 없애 달라고 요구했다. 그러나 앤트로픽은 이를 거부했다.
트럼프 전 대통령이 회사를 블랙리스트에 올리기 직전, 앤트로픽 최고경영자 다리오 아모데이는 국방부의 요구를 “양심상 받아들일 수 없다”고 밝혔다. 그는 클로드가 “겉으로 보기에는 사소한 데이터 조각들을 자동으로 결합해, 한 개인의 삶을 종합적으로 재구성하는 방식으로” 대규모 감시에 악용될 수 있다고 우려해 왔다.
이에 대해 에밀 마이클 국방부 차관은 소셜미디어를 통해 앤트로픽이 거짓말을 하고 있다고 반박했다. 그는 국방부가 대규모 감시를 시도한 적이 없으며, 그러한 행위는 불법이라고 주장했다.
국방부는 최소한 유머 감각만은 있는 모양이다. 이 정권이 법을 지킨다는 발상 자체가 농담이기 때문이다.
트럼프가 이미 어긴 수백 건의 법원 명령은 일단 제쳐두자. 베네수엘라 연안에서 아무런 법적 근거도 없이 살해된 사람은 도대체 얼마나 될까. ‘마약 테러리스트와 교전 중이었다’는 식의 근거 불분명한 주장만으로는 법적 정당성이 확보되는 것이 아니다. 그것은 법 집행이 아니라, “먼저 쏘고 질문은 하지 말라”는 독재적 발상에 가깝다. 적법 절차를 존중하려는 태도와는 거리가 멀다.
클로드는 무엇을 할 수 있나?
대다수 미국인은 급속히 확산되는 AI 기술이 자신의 삶을 어떻게, 그리고 결코 긍정적이지 않은 방향으로 바꿀 수 있는지 충분히 체감하지 못하고 있다. 필자는 AI 전문가가 아니기 때문에, 만약 앤트로픽의 ‘클로드’가 헥세스 장관의 통제 아래 놓인다면 미국인을 감시하는 데 어떻게 활용될 수 있는지, 쉬운 말로 설명해 달라고 구글 AI에 물어봤다. AI는 클로드의 기능을 다음과 같이 설명했다.
- 대규모 데이터 통합(방대한 정보 분류)
상상해 보자. 초고속으로 작동하는 로봇이 수십억 건의 문자 메시지, 이메일, 온라인 게시물을 동시에 읽어낸다. 이 로봇은 누가 분노하고 있는지, 누가 좌절하고 있는지 같은 감정 신호를 가려내고, 그 사람들이 어디에 거주하는지까지 지도 형태로 정리할 수 있다. - 정보 프로파일링(디지털 비밀 파일 작성)
한 개인에 관한 수천 쪽 분량의 자료를 단번에 분석하는 컴퓨터 프로그램을 떠올려 보라. 이 프로그램은 디지털 탐정처럼 작동하며, 특정 인물의 삶을 종합적으로 정리한 ‘비밀 파일’을 만들어낼 수 있다. - 자동 추적(디지털 발자국 분석)
누군가가 어디를 운전했는지, 어떤 웹사이트를 방문했는지, 누구와 연락을 주고받았는지를 추적한다. 이러한 데이터를 종합해, 마치 거리의 CCTV가 차량 이동 경로를 따라가듯 개인의 이동 경로를 시각화할 수 있다. - 법 집행 지원(경찰용 분석 도구)
팔란티어와 같은 기업은 수사기관을 위한 데이터 분석 소프트웨어를 개발해 왔다. 이 시스템은 카메라 영상, 금융 기록, 통화 내역 등 다양한 정보를 통합해 용의자를 특정하고, 수사 속도를 높이는 데 활용될 수 있다.
이번 갈등은 실리콘밸리 전체를 긴장시켰다. 만약 트럼프와 헥세스가 AI 계약 조건을 사후에 마음대로 바꿀 수 있다면, 애써 계약서에 서명할 이유가 무엇이겠는가.
정권의 일관성 부족 역시 상황을 진정시키지 못하고 있다. 트럼프가 앤트로픽을 블랙리스트에 올리기 전, 펜타곤 관계자들은 앞서 언급된 감시 도구를 사용할 의사가 “전혀 없다”고 밝히면서도, 동시에 해당 시스템에 대한 제한 없는 접근을 요구했다는 것이다.
상식적인 관점에서 보더라도 이러한 설명을 그대로 받아들이기는 쉽지 않다. 말과 행동이 엇갈리는 상황에서 신뢰가 형성되기는 어렵기 때문이다.
댓글0