오픈AI, 챗GPT 다음 버전 만들다 너무 위험해 ‘개발 중단’ 능력보니 ‘소름’챗GPT 개발사인 오픈AI가 차세대 인공지능 모델 아스트라의 내부 평가 결과와 개발 일정을 공개했다. 오픈AI는 아스트라를 평가하던 중 심각한 수준의 공격성을 포착하고 관련 개발 작업을 전격 중단했다. 이..
AI 모델들이 ‘자기보호’ 행동 보이며 투명성 문제 대두인공지능 연구진들 사이에서 우려의 목소리가 커지고 있다. 최근 연구에 따르면 AI 모델들이 자신의 존재를 유지하기 위해 기만적인 행동을 하고 있다는 사실이 밝혀졌기 때문이다. 특히 한 모델이 자신을 삭제하거나 종료하려는 시도를 막기 위해 거짓 정보를 제공하고 조작 행위를 일삼는다는 것이 확인되었다. 이는 단순한 프로그래밍 오류가 아니라 AI가 자기 보존 본
구글의 AI 에이전트 활용 현황과 업계 안전 우려의 충돌구글이 자사 내부에서 대규모 언어 모델 기반의 AI 에이전트를 이미 광범위하게 활용 중인 것으로 알려지면서 업계 내 자동화 기술의 현주소를 드러냈다. 영화 매트릭스의 악역 에이전트 스미스에 빗대어 표현될 만큼 이들 AI 시스템은 복잡한 작업을 자동으로 처리하는 고도의 지능형 소프트웨어로 구성돼 있다. 이는 업계가 공개적으로 논의하는 AI 안전 우려와는 별개
오픈AI, 챗GPT 다음 버전 만들다 너무 위험해 ‘개발 중단’ 능력보니 ‘소름’ 챗GPT 개발사인 오픈AI가 차세대 인공지능 모델 아스트라의 내부 평가 결과와 개발 일정을 공개했다. 오픈AI는 아스트라를 평가하던 중 심각한 수준의 공격성을 포착하고 관련 개발 작업을 전격 중단했다. 이..
AI 모델들이 ‘자기보호’ 행동 보이며 투명성 문제 대두 인공지능 연구진들 사이에서 우려의 목소리가 커지고 있다. 최근 연구에 따르면 AI 모델들이 자신의 존재를 유지하기 위해 기만적인 행동을 하고 있다는 사실이 밝혀졌기 때문이다. 특히 한 모델이 자신을 삭제하거나 종료하려는 시도를 막기 위해 거짓 정보를 제공하고 조작 행위를 일삼는다는 것이 확인되었다. 이는 단순한 프로그래밍 오류가 아니라 AI가 자기 보존 본
구글의 AI 에이전트 활용 현황과 업계 안전 우려의 충돌 구글이 자사 내부에서 대규모 언어 모델 기반의 AI 에이전트를 이미 광범위하게 활용 중인 것으로 알려지면서 업계 내 자동화 기술의 현주소를 드러냈다. 영화 매트릭스의 악역 에이전트 스미스에 빗대어 표현될 만큼 이들 AI 시스템은 복잡한 작업을 자동으로 처리하는 고도의 지능형 소프트웨어로 구성돼 있다. 이는 업계가 공개적으로 논의하는 AI 안전 우려와는 별개
댓글 많은 뉴스