최근 페이스북은 AI 사진들과 불법 사이트 댓글 등 안 좋은 콘텐츠들이 점점 지배하고 있다. 위의 사진과 같은 게시물들이 넘쳐 나며, 이러한 게시물을 소비하는 사람들이 점점 많아지고 있다.
놀랍게도, 페이스북 관련 연구자들은 이러한 콘텐츠를 소비하는 일부 사람들은 해당 사진이 AI가 생성한 것이라는 것을 깨닫지 못하고 있었으며, 이 페이지들을 운영하는 그룹들 또한 좋은 목적으로 이러한 사진을 배포하고 게시하는 것이 아니라고 언급했다. 연구자들은 일부 페이지 운영자들이 다른 사람이 운영하던 페이지를 해킹하고 가짜 팔로워(유령 팔로워)를 추가하는 등의 불법적인 행위를 조직적으로 하고 있다고 밝혔다.
지난 주, 스탠포드 대학과 조지타운 대학의 두 대학생이 페이스북에서의 AI 이미지에 대한 논문을 발표했다. 그들은 3월 초까지 120개의 페이스북 페이지를 연구한 끝에, AI 가 생성한 이미지들이 자꾸 계정의 검색창에 나타나는 이유로 ‘페이스북의 알고리즘’에 문제가 발생했음을 언급했다. 페이스북의 알고리즘이 이러한 AI 사진들이 사람들의 더 많은 참여를 유도하는 것이라고 판단하고 자꾸 이러한 AI 사진들을 올린 게시물을 연관된 검색 창에 띄우는 것이다. 실제로 이러한 사진을 올린 게시물들이 유명해진 예시도 많다.
대표적인 예시로 위의 AI 예수 사진을 올린 “Thank Jesus for everything” 페이지는 원래 현지 음악가들을 소개하는 데 전념하던 곳이었지만, 2023년 1월에 해킹당했다고 원래의 소유주가 말했다. 해킹 당한 이후로, 해당 페이지에서는 계속해서 바이럴을 위한 AI 예수 사진을 올리고 있다고 말했다. 해당 AI 예수 사진을 가져오는 페이지는 VFit Athlete 라는 페이지인데, 이 페이지마저 현재 해킹 당한 상태라고 한다. 두 페이지는 합쳐서 13만 명의 팔로워를 가지고 있다.
이러한 페이지들의 진정한 목적은 아직 불분명하다. 빈번하게 보이는 뻔한 댓글 사기를 넘어서, 그들은 지금보다 더 페이지 조회수가 높아진다면 ‘오보’를 증가시키는 등, 충분한 악용이 가능하기 때문에, 관심을 갖고 이에 대응해야 한다.
댓글0