한인 유명 변호사가 인공지능(AI)이 만들어낸 허위 판례를 법원에 제출했다가 법정 제재를 받았다.
뉴저지 지역매체 NJ닷컴에 따르면 뉴저지 버겐 카운티 한인 조석진 변호사가 AI가 생성한 가짜 판례를 제출했다 적발돼 3,000달러의 벌금을 내게 됐다.
이는 최근 미 법조계에서 심심치 않게 발생하는 AI 오용 사례로 법원이 이에 대해 강력한 경고를 내린 것으로 주목받고 있다.
호세 R. 알몬테 판사는 지난 9월 18일 명령에서 조 변호사에게 3,000달러의 벌금을 부과하고 문제가 된 답변서를 기록에서 삭제하도록 했으며, 제재 사실을 변호사 윤리 당국과 의뢰인에게 통지하고 그 이행 증빙을 법원에 제출하라고 명령했다.
알몬테 판사는 “유감스럽게도, 변호사들이 적절한 감독 없이 생성형 AI를 사용하는 것이 전국 법원에 만연한 문제가 되었다”고 지적했다.
법원 명령문은 조 변호사가 “초기 단계 리서치에서 생성형 AI 프롬프트에 과잉 의존”했고 제출 전 인용을 충분히 검증하지 않아 연방민사소송규칙의 성실 검토 의무를 위반했다고 적시했다.
명령문은 과거 6차례의 유사 사건이 있었으며 이 사건들에서 1,000달러에서 최대 6,000달러의 벌금을 부과했다면서도 조 변호사에 대해서는 빠른 시인과 재발 방지 조치를 고려해 비교적 낮은 수준의 3,000달러 벌금을 내린다고 설명했다.
조 변호사는 법원에 제출한 서면 진술을 통해 생성형 AI 도구를 법률 리서치에 사용한 사실을 인정했다. 그는 촉박한 마감 기한과 일정 문제 때문에 실수가 발생했다고 해명하면서, 앞으로는 재발 방지를 위해 엄격한 검토 및 내부 절차를 마련했다고 밝혔다.
법원은 조 변호사의 행위를 과실로 보았지만, 그가 “신속하게 잘못을 인정하고 솔직하게 공개했으며, 법원에 사과하고, 향후 AI 오용을 막을 안전장치를 즉시 이행하겠다고 약속한 점”을 감경 사유로 참작했다.
이번에 조 변호사가 AI가 만들어낸 허위 판례를 법원에 제출한 소송은 한국 오뚜기 식품 브랜드의 미 동부 지역 독점 유통을 둘러싼 분쟁인 OTG New York, Inc. 대 Ottogi America, Inc. 사이 소송 절차에서 비롯된 것으로 확인됐다.
법조계에선 이번 판결이 “AI는 리서치 도구일 수 있지만 변호사의 책임을 대체할 수 없다”는 점을 재확인한 사례로 평가된다.
조 변호사 사건은 인용 검증과 내부 감수 절차를 강화하라는 경고로 받아 들여지고 있다.
한인 사회에 이름이 널리 알려진 조 변호사가 체면을 구긴 AI의 가짜 판례 생성은 소위 AI할루시네이션(hallucination)이란 현상으로 AI가 존재하지 않는 판례나 문장을 그럴듯하게 생성하는 오류다.
법원은 조 변호사에게 14일 이내 벌금 납부, 고객에게 명령 내용 전달, 그리고 자신이 면허를 소지한 주 변호사 징계 당국에 제재 사실을 자진 신고할 것을 명령했다.
<김상목 기자>
