- 이미지 : pixabay

미국의 대형 로펌인 Gordon Rees Scully Mansukhani(약 1,800명 변호사 규모)이 최근 AI(인공지능)를 활용한 문서 제출 과정에서 허위이거나 존재하지 않는 인용문과 판례를 포함한 법원 제출서를 법원에 냈다가 사과했다는 소식이 나왔습니다.

해당 사건은 미국 앨라배마주의 병원 파산 관련 소송으로, 이 로펌이 채권자를 대신해 제출한 문서가 문제였습니다. 당시 제출된 문서가 판사 Christopher Hawkins(미국 파산법원)에게 “광범위하게 부정확하고 오해를 불러일으키는, 그리고 만들어진 인용문을 포함하고 있다”는 지적을 받았습니다.

문서 제출을 맡았던 변호사 중 한 명인 Cassie Preston은 처음엔 AI 사용을 부인했으나 이후 “AI가 사용된 사실을 알고 있었다”고 시인했습니다. 그녀는 개인적인 사정과 과도한 업무 부담을 원인으로 제시했습니다.

로펌 측은 이 사안을 매우 심각하게 받아들여 자신들이 “매우 당혹스럽다(profoundly embarrassed)”는 표현까지 사용하며 사과했으며, AI 사용 관련 내부 정책을 개정했고 인공지능 리서치 결과에 대한 인용 확인(“cite‐checking”) 절차를 도입했다고 밝혔습니다. 또한 잘못으로 인해 발생한 법적 비용 일부(채권자 및 채무자 측 변호사비용 합산 약 55,000달러)를 보상하기로 합의했습니다.

주요 쟁점 및 의미

• AI를 활용한 법률 문서 작성이 점점 일반화되고 있는 가운데, 이 사건은 **AI가 생성한 허위 정보(so-called “hallucinations”)**가 실제 법적 책임·윤리 문제로 이어질 수 있다는 경고가 됩니다.

• 법률 분야에서는 단순한 정보 오류가 아니라 “존재하지 않는 판례 인용”처럼 문서의 신뢰성 자체를 훼손할 수 있는 사안이라서, 변호사 윤리 및 절차적 책임이 새로운 차원으로 확장되고 있다는 분석이 나옵니다.

• 로펌 내부에서는 AI 도구 사용이 ‘보조’ 역할로 머물러야 한다는 기조가 강화되고 있으며, 특히 “AI가 제안한 인용·판례를 그대로 쓰면 안 된다. 반드시 사람이 검증해야 한다”고 하는 목소리가 커지고 있습니다.

• 이 사건은 단순히 법률 산업만의 문제가 아니라, AI의 활용이 확대되고 있는 모든 전문 영역에서 “자동화된 결과물에 대한 책임”이 누구에게 있는가, 어떻게 책임을 물을 것인가 라는 큰 질문을 던집니다.