한인 여성 변호사가 생성형 인공지능(AI)이 만들어낸 허위 판례와 법률 자료를 법원에 제출했다가 6개월간 변호사 자격이 정지되는 중징계를 받았다. 법조계에서는 생성형 AI의 ‘환각(hallucination)’으로 생성된 허위 법률 정보를 검증 없이 사용한 변호사가 자격정지 처분을 받은 첫 사례라는 점에서 전 세계 법률계에 적지 않은 파장을 불러올 것으로 보고 있다.
캐나다 내셔널포스트(National Post)에 따르면, 온타리오주 법률협회(Law Society of Ontario) 재판부는 토론토에서 활동하는 한인 여성 변호사 메리 현숙 리(Mary Hyun-Sook Lee·Jisuh Lee)에 대해 지난 17일부터 6개월간 변호사 자격을 정지하고, 사건 처리 비용 1만 캐나다달러를 부담하도록 명령했다.
재판부는 리 변호사가 법원에 제출한 변론서(factum)에 생성형 AI가 만들어낸 존재하지 않는 판례와 사건과 무관한 법률 자료를 인용한 사실을 확인했다. 또한 법원이 AI 사용 여부를 질의했을 당시 이를 부인한 점도 징계 사유로 판단했다.
징계 결정문은 리 변호사가 전문직 윤리와 성실 의무를 중대하게 위반했다고 지적했다. 특히 AI가 생성한 자료의 진위를 직접 확인하지 않은 채 법원에 제출한 데 이어, AI 활용 사실까지 숨긴 행위는 사법 절차의 신뢰를 훼손한 중대한 비위라고 판단했다.
법조계는 이번 사건을 캐나다에서 생성형 AI의 허위 정보, 이른바 ‘AI 환각’으로 만들어진 판례를 사용해 변호사가 자격정지 처분을 받은 첫 사례로 평가하고 있다. 생성형 AI가 실제 존재하지 않는 판례나 법률 조항을 그럴듯하게 만들어내는 문제는 미국과 영국 등 여러 국가에서도 반복적으로 발생했지만, 변호사 자격정지라는 중징계로 이어진 사례는 매우 드물다.
이번 사건을 계기로 캐나다 사법기관들은 생성형 AI 활용에 대한 관리 기준을 한층 강화하고 있다.
온타리오 토지심판원(Ontario Land Tribunal)은 올해 3월부터 재판 서류 작성 과정에서 생성형 AI를 사용했을 경우 이를 반드시 명시하도록 의무화했다. 또한 AI가 생성한 내용과 인용 판례의 정확성을 제출 당사자가 직접 검증했음을 확인하는 선언도 함께 제출하도록 규정을 신설했다.
법률 전문가들은 생성형 AI가 문서 작성과 초안 작성에는 유용한 도구가 될 수 있지만, 판례와 법률 인용의 정확성은 반드시 변호사가 직접 확인해야 한다고 강조한다. AI가 만들어낸 허위 정보가 재판 결과에 영향을 미칠 경우 사법 시스템에 대한 신뢰 자체가 흔들릴 수 있기 때문이다.
이번 징계는 생성형 AI 활용이 빠르게 확산되는 법률 업계에 “AI는 어디까지나 보조 도구일 뿐, 최종 책임은 전문가에게 있다”는 점을 분명히 한 상징적인 판결로 평가받고 있다.
K-News LA 편집부
관련기사 [단독] 유명 한인 변호사, AI생성 가짜판례 제출했다 벌금 … 오뚜기식품 소송과정서 들통
