"AI가 지어낸 판례 제출"…월가 대형 로펌, 법원에 공식 사과

[서울=뉴시스]기사 이해를 돕기 위한 이미지.(사진출처: 유토이미지)

[서울=뉴시스]김혜경 기자, 이지은 인턴기자 = 미국 월가의 대표적 대형 로펌이 인공지능(AI)이 만들어낸 허위 판례와 잘못된 법률 인용을 법원에 제출했다가 공식 사과했다. 생성형 AI의 '환각(hallucination)' 문제가 법률 실무에서도 현실화됐다는 지적이 나온다.

22일(현지 시간) 영국 일간 가디언에 따르면 미국 대형 로펌 설리번 앤 크롬웰은 최근 뉴욕 연방파산법원에 제출한 주요 소송 서류에 AI가 생성한 오류가 포함됐다고 인정했다.

해당 서류에는 존재하지 않는 판례를 인용하거나, 실제 판결 내용을 잘못 요약한 내용, 미국 파산법 조항을 부정확하게 인용한 사례 등이 포함됐다. 이 오류는 함께 사건을 맡고 있던 또 다른 로펌 보이스실러플렉스너가 발견했다.

앤드루 디터리치 설리번앤드크롬웰 글로벌 구조조정 부문 공동대표는 법원에 제출한 사과문에서 "이 같은 일이 발생한 것을 깊이 유감스럽게 생각한다"며 "우리 팀 전체를 대표해 사과한다"고 밝혔다. 그는 내부적으로 AI 사용 및 검토 절차가 있었지만 제대로 지켜지지 않았다고 인정했다

문제가 된 서류는 캄보디아 대기업 프린스그룹 관련 파산 및 자산 추적 소송이다. 미국 검찰은 프린스그룹 회장 첸즈가 국제 사기와 자금세탁에 연루됐다고 보고 약 90억 달러 규모의 비트코인 자산 몰수를 추진하고 있다.

해당 문서에는 AI 환각으로 인해 존재하지 않는 판례를 인용하거나 실제 판결 내용을 부정확하게 요약한 내용, 미국 파산법 조항을 잘못 인용한 사례 등이 포함된 것으로 알려졌다.

AI 환각은 인공지능이 실재하지 않거나 검증되지 않은 정보를 사실처럼 생성하는 현상을 말한다.

설리번앤드크롬웰은 오류를 수정한 서류를 다시 제출했지만, 어떤 AI 도구를 사용했는지와 구체적으로 누가 해당 내용을 작성했는지는 공개하지 않았다.

최근 미국 법원에서는 생성형 AI가 만든 가짜 판례나 허위 인용을 제출했다가 제재를 받는 사례가 잇따르고 있다. 전문가들은 AI가 법률 업무 효율을 높일 수는 있지만, 사실 검증 없이 활용할 경우 오히려 심각한 법적 책임으로 이어질 수 있다고 경고하고 있다.


◎공감언론 뉴시스 [email protected]