ChatGPT가 ‘변호사’처럼 행동했다면 책임은 누구?

[기사 개요]
일본생명(Nippon Life)의 미국 법인이 OpenAI를 상대로 손해배상 청구 소송을 제기했다. 청구액은 약 1,030만 달러(약 137억2,990만 원) 규모다. 이번 소송의 발단은 한 전(前) 피보험자가 ChatGPT를 이용해 소장과 각종 신청서를 다수 작성하면서 이미 종결된 보험 분쟁이 다시 제기된 사건이다. 일본생명 측은 AI가 변호사 자격 없이 구체적인 법률 조언과 문서 작성에 관여해 사실상 ‘무자격 법률행위’에 해당한다고 주장하고 있다. 생성형 AI를 둘러싼 법적 분쟁은 전 세계적으로 늘고 있으며, 이번 소송은 AI 개발사의 책임 범위, 제조물책임(PL) 적용 가능성, 그리고 사법제도에 미치는 영향에 대한 새로운 규칙 정립의 시험대가 될 수 있다.

일본생명의 미국 법인이 OpenAI를 상대로 소송을 제기한 사실이 확인됐다. 청구액에는 실손 보전과 징벌적 손해배상이 포함돼 총 약 1,030만 달러(약 137억 원)에 이른다.

생성형 AI를 둘러싼 소송은 전 세계적으로 증가하는 추세지만, 이번 사건은 단순한 저작권이나 지식재산권 문제와는 본질적으로 다르다.

핵심 쟁점은 AI가 사실상 무자격 법률 실무자처럼 작동했을 가능성이다. 일본생명은 생성형 AI가 이미 해결된 분쟁을 다시 끌어내 회사에 실질적인 피해를 입혔다고 주장하고 있다.

만약 법원이 이 주장을 받아들일 경우, 생성형 AI 사업의 책임 구조 자체가 재설정될 가능성도 제기된다.

생성형 AI가 만들어낸 ‘저비용의 법적 공격’에 기업이 높은 비용을 들여 대응해야 하는 상황이 현실화되고 있다는 점에서도 이번 소송은 주목받고 있다. AI 시대에 등장한 새로운 리스크를 보여주는 사례라는 평가다.

●목차

해결된 분쟁을 AI가 되살렸다

이번 소송의 출발점은 일본생명과 관련된 장애보험금 분쟁의 과거 사건이다.

한 전 피보험자가 일본생명과 이미 합의로 마무리된 사안에 대해 ChatGPT를 활용해 법적 문서를 작성하면서 새로운 신청과 소송이 잇따라 제기됐다는 것이다.

일본생명은 해당 인물이 AI를 이용해 소장, 신청서, 답변서 등 법적 문서를 대량으로 작성했으며 수십 건의 절차를 반복적으로 진행했다고 주장하고 있다. 회사는 이를 “근거가 약한 소송의 남발”로 규정했다.

문제는 이 문서들 가운데 상당수가 AI의 도움을 받아 작성됐을 가능성이 있다는 점이다.

일본생명은 소장에서 다음과 같이 주장했다.

“ChatGPT는 일리노이주(Illinois) 변호사 자격이 없음에도 불구하고 구체적인 법률 조언과 소장 작성 지원을 제공했다.”

즉 AI가 사실상 무자격 법률행위(Unauthorized Practice of Law)에 관여했을 가능성이 제기된 것이다. 일본생명은 이러한 소송에 대응하기 위해 막대한 변호사 비용과 내부 인력을 투입해야 했다며 손해배상을 요구하고 있다.

OpenAI가 예상할 반박 논리

OpenAI는 현재 개별 소송에 대한 공식 입장을 내놓지 않고 있지만, 그동안의 정책과 관행을 고려하면 몇 가지 반박 논리가 제기될 가능성이 크다.

첫째는 이용약관에 따른 책임 제한이다. OpenAI는 의료나 법률처럼 전문 자격이 필요한 조언을 AI로 대체하는 행위를 약관에서 금지하고 있다. 따라서 이용자가 이러한 규정을 위반해 AI를 사용했다면 책임은 사용자에게 있다는 주장을 펼칠 수 있다.

둘째는 AI는 단순한 도구일 뿐이라는 논리다. ChatGPT는 정보 정리나 초안 작성 등을 돕는 도구이며, 최종 판단과 문서 제출은 인간 사용자가 해야 한다는 입장이다.

미국에서는 AI 출력물이 표현의 자유(헌법상 보호되는 표현)에 해당하는지 여부도 새로운 쟁점으로 떠오르고 있다.

다만 일본생명 측은 OpenAI가 과거 충분한 안전장치를 마련하지 않았다고 지적하며 소극적 불이행(불충분한 대응)에 대한 책임을 물을 가능성도 시사하고 있다.

전 세계에서 늘어나는 ‘AI 관련 법적 분쟁’

AI와 법률의 충돌은 이미 여러 국가에서 현실적인 문제로 떠오르고 있다.

대표적인 사례가 이른바 ‘로봇 변호사’ 논란이다. 미국 스타트업 ‘DoNotPay’는 AI 기반 법률 서비스를 ‘세계 최초의 로봇 변호사’라고 홍보했지만, 변호사 자격 제도와 충돌하면서 소송으로 이어졌다.

또 2023년 아비앙카(Avianca) 항공 소송에서는 변호사가 ChatGPT로 작성한 문서에 실제로 존재하지 않는 판례가 포함된 사실이 드러나 법원이 제재를 내린 바 있다. AI가 생성한 허위 정보가 사법 절차를 혼란에 빠뜨린 대표적인 사례다.

이 문제는 법률 분야에만 국한되지 않는다. 의료 진단, 투자 조언, 금융 자문 등 다양한 영역에서도 AI 책임 문제가 논쟁의 대상이 되고 있다.

‘저비용의 법적 공격’이라는 새로운 위험

이번 사안이 보여주는 가장 근본적인 문제는 법적 공격의 비용이 크게 낮아졌다는 점이다. 과거에는 기업을 상대로 지속적으로 소송을 제기하려면 높은 변호사 비용이라는 진입 장벽이 작동했다.

하지만 생성형 AI의 등장으로 상황이 달라졌다. 월 수십 달러 수준의 AI 도구만으로도 비전문가가 그럴듯한 소장이나 법률 문서를 빠르게 작성할 수 있는 환경이 만들어졌기 때문이다.

그 결과 저비용으로 대량의 소송을 제기하는 것이 가능해졌다.

기업 입장에서는 설령 승산이 낮은 주장이라도 정식 절차로 접수되면 대응하지 않을 수 없다. 이로 인해 ‘AI의 저비용 공격 vs 기업의 고비용 방어’라는 비대칭 구조가 형성된다.

이 문제에 대해 미국 정보법 소송을 오랫동안 취재해온 IT 저널리스트 고다이라 타카히로는 이렇게 지적한다.

“생성형 AI는 본래 지식 접근을 민주화하는 기술입니다. 그러나 동시에 사법 제도의 ‘마찰 비용’을 급격히 낮추는 면도 있습니다. 과거 변호사 비용이 하나의 필터 역할을 해왔다면, AI는 그 장벽을 허물고 있습니다. 결과적으로 근거가 약한 소송이나 신청이 증가할 위험이 있습니다.”

또 변호사 제도 측면에서는 다른 논점도 있다.

“AI가 개별 분쟁에 대해 구체적 조언을 제공하면, 이는 무자격자의 법률업무에 해당할 가능성이 있습니다. 관건은 AI를 단순한 도구로 볼 것인지, 아니면 일정한 책임 주체로 다룰 것인지입니다(고다이라).”

AI 책임 논의, 제조물책임법으로 확장될 가능성

번 소송은 AI 책임 논의를 제조물책임(PL) 영역으로 확대할 가능성도 제기하고 있다.

그동안 IT 업계에서는 “도구의 악용은 사용자 책임”이라는 원칙이 널리 받아들여져 왔다.

하지만 생성형 AI는 단순 소프트웨어를 넘어 ‘자율적으로 문장을 생성’하고 ‘고도의 전문 지식을 모방’하며 ‘인간의 판단을 대체’하는 특성을 가진다.

그 결과 ‘성능이 높고 악용이 쉬운 도구를 별다른 안전장치 없이 제공한 것 자체가 결함에 해당하는가’라는 새로운 PL 논리가 제기되고 있다.

법원이 이 논리를 인정하면 AI 기업은 ‘가드레일 설계’, ‘용도 제한’, ‘모니터링 시스템’ 등 보다 강한 관리 책임을 부담해야 할 가능성이 커진다.

AI 규제 초점은 ‘개발’에서 ‘운영 책임’으로

세계 각국 규제도 이러한 방향으로 이동하고 있다.

EU의 ‘AI법’은 AI의 위험 수준에 따라 투명성 의무, 감사, 인간 감독 등을 요구한다. 규제의 초점은 개발 책임에서 운영 책임으로 옮겨갈 전망이다.

앞으로의 핵심 쟁점은 AI 개발사, API 제공사, 이용자 가운데 누구에게 어느 범위까지 책임을 물을 것인가가 될 전망이다.

일본생명의 이번 소송은 여러 국가 적지 않은 시사점을 준다. 미국은 판례 중심 법체계이기 때문에, 한 번 강력한 판결이나 합의가 나오면 국제적인 기준으로 영향을 미칠 가능성이 있기 때문이다.

이번 사건은 결국 AI 거버넌스 규칙이 새롭게 만들어지는 과정의 한 장면으로 볼 수 있다.

생성형 AI는 이미 기업 업무와 사회 인프라 전반에 깊숙이 들어와 있다. 하지만 그 영향은 단순한 효율성 향상에 그치지 않는다. AI는 정보 생성과 의사결정, 제도 운영의 비용 구조 자체를 변화시키고 있다.

만약 AI가 생성한 허위 판례나 대량 신청이 제대로 통제되지 않는다면, 사법 시스템 자체가 압박을 받을 가능성도 제기된다. 일본생명의 이번 소송은 단순한 손해배상 청구를 넘어 강력한 기술인 AI를 누가, 어디까지 통제할 것인가라는 사회적 질문을 던지고 있다.

사법부의 판단은 생성형 AI 비즈니스의 향방뿐 아니라 AI와 사회의 관계를 규정하는 중요한 분기점이 될 수 있다.

(글=BUSINESS JOURNAL 편집부, 협력=고다이라 타카히로·IT 저널리스트)