도널드 트럼프 지지층(MAGA)을 겨냥해 활동하던 한 ‘미군 여군’ 인플루언서 계정이 실제 인물이 아닌 인공지능(AI) 생성 가짜로 드러났다고 데일리 비스트가 보도했다.
보도에 따르면 인스타그램 계정 ‘jessicaa.foster’는 트럼프 전 대통령과 함께 찍은 것처럼 보이는 사진과 친(親)MAGA 메시지를 올리며 팔로워 약 100만 명을 끌어모았다. 그러나 이 계정의 사진 속 인물은 실제 존재하는 사람이 아니라 AI가 만들어낸 가상 인물로 밝혀졌다.
패스트 컴퍼니와 마르카는 이 계정 속 인물이 MAGA 지지층을 유인해 성인 콘텐츠 플랫폼 ‘온리팬스’ 계정으로 끌어들이기 위해 만든 인공지능(AI) 생성 가상 인물이라고 전했다. 특히 발 사진을 판매하는 콘텐츠를 홍보하는 방식으로 이용자 반응을 끌어냈다는 것이다.
인스타그램에 올라온 사진들은 언뜻 보면 실제 인물처럼 매우 사실적으로 보이지만, 잘못된 성조기 표현이나 비정상적인 미군 복장 등 AI 이미지 특유의 오류가 발견되면서 가짜일 가능성이 제기됐다.
또한 이 계정은 지난해 11월 처음 게시물을 올린 뒤 올해에만 트럼프 전 대통령을 최소 여섯 번 만난 것처럼 보이는 사진을 게시한 것으로 나타났다. 심지어 트럼프와 러시아 대통령 블라디미르 푸틴, 우크라이나 대통령 볼로디미르 젤렌스키와 함께 찍은 것처럼 보이는 ‘셀카’도 등장했다.
이 외에도 그린란드 침공 장면이나 캘리포니아에서 열린 것처럼 보이는 슈퍼볼 행사 참석 사진 등 실제로 일어나지 않은 상황을 연출한 이미지가 올라왔으며, 일부 이미지에서는 지난 시즌 플레이오프에도 진출하지 못한 캔자스시티 치프스가 슈퍼볼 참가 팀으로 등장하는 등 비현실적인 설정도 확인됐다.
이처럼 가짜라는 단서가 여러 차례 포착됐음에도 해당 계정은 높은 반응을 얻고 있다. 내용이 얼마나 터무니없든 상관없이, 게시물 한 장마다 수십만 개의 ‘좋아요’가 달리고 있으며, 이를 통해 온리팬스 계정으로 이용자를 유도해 수익을 올리고 있는 것으로 알려졌다.
패스트 컴퍼니에 따르면 이 계정 운영자는 인스타그램 반응을 무료 구독 형태의 온리팬스 계정 팁으로 전환해 게시물 하나당 수백 달러의 수익을 올리고 있는 것으로 추정된다.
이번 사례는 AI가 허위 정보나 선전을 확산하는 도구로 악용될 수 있다는 전문가들의 경고가 이어지는 가운데 발생한 사건으로, 인공지능이 온라인 여론과 정보 환경에 허위 정보와 선전을 퍼뜨리는 도구로 사용될 수 있다는 우려를 다시 불러일으키고 있다.
댓글0