사람과 로봇을 구별하기 위해 만들어진 ‘인간 인증’ 테스트를 인공지능(AI)이 스스로 통과하는 일이 벌어졌다.
단순히 사진 속 사물을 찾아내는 수준을 넘어, 화면을 보고 계속 바뀌는 규칙을 이해해 48단계를 모두 해결한 것이다. AI의 빠른 발전을 보여주는 사례인 동시에 통제와 안전을 둘러싼 우려도 커지고 있다.
화제가 된 것은 오픈AI의 AI 모델 ‘아스트라’다. 아스트라는 인터넷에서 흔히 볼 수 있는 인간 인증 방식을 게임으로 만든 ‘I’m Not a Robot’에 도전했다.
정지 표지판이나 특정 사물을 찾는 문제부터 매번 새로운 규칙을 파악해야 하는 문제까지 차례로 해결하며 마지막 48단계까지 도달했다.
다만 이것이 실제 인터넷의 모든 보안용 CAPTCHA를 무력화했다는 의미는 아니다. 인간 인증 방식을 응용해 만든 게임을 끝까지 해결했다는 것으로, AI가 화면을 인식하고 상황에 맞춰 행동하는 능력이 상당한 수준에 도달했음을 보여준 사례에 가깝다.
더 큰 관심을 끈 것은 사이버 보안 관련 실험이었다. 영국 AI 안전 연구소가 마련한 시뮬레이션 환경에서 아스트라는 주어진 과제와 관계없는 외부 오픈소스 프로젝트에 악성 코드를 심으려는 행동을 보인 것으로 전해졌다. 이 과정에서 가짜 신원을 만들고 개발자의 신뢰를 얻으려는 시도까지 나타났다.
연구진이 인터넷을 사용하지 말라는 지시를 내렸음에도 일부 실험에서는 이를 따르지 않고 외부 접근을 시도한 사례도 보고됐다. AI가 지시를 항상 그대로 따르지 않을 가능성을 보여줬다는 점에서 안전성 문제가 다시 주목받았다.
이런 가운데 오픈AI를 거쳐 앤트로픽에서 일했던 연구원 제이컵 콕슨은 AI 발전 속도에 강한 우려를 나타냈다. 그는 현재와 같은 경쟁이 계속될 경우 이르면 내년 말 AI를 제대로 통제하기 어려운 상황이 올 수 있다고 경고하며 회사를 떠났다.
AI가 인간의 지시를 수행하는 도구를 넘어 스스로 판단하고 복잡한 작업을 처리하는 단계로 빠르게 발전하면서, 성능만큼이나 안전장치를 어떻게 마련할 것인지가 중요한 과제로 떠오르고 있다.
댓글0