주택 모기지 심사에 인공지능(AI) 활용이 확대되는 가운데 한인 등 이민자들이 이름 때문에 불리한 판단을 받을 수 있다는 연구 결과가 나와 우려가 커지고 있다.
AI가 은행 거래 내역을 분석할 때 영어권 이름보다 비영어권 이름이 등장한 거래를 ‘해외 자금(foreign funds)’으로 의심할 가능성이 약 6배나 높은 것으로 나타났기 때문이다.
컬럼비아대학교와 모기지 테크놀로지 업체 타이달웨이브(Tidalwave) 연구진이 공개한 ‘MortarBench: Evaluating Mortgage Loan Origination Agents’ 연구에 따르면, 주요 범용 AI 모델들은 모기지 심사와 유사한 환경에서 비영어권 이름이 포함된 거래를 해외 자금으로 분류하는 경향을 보였다.
연구진은 은행 거래 내역에 이름이 포함된 입금 거래를 넣고 AI에 해외에서 유입됐을 가능성이 있는 자금을 찾아내도록 했다.
그 결과 영어권 이름이 사용된 거래는 13.3%만 해외 자금으로 분류됐지만 비영어권 이름이 등장한 거래는 77%가 해외 자금으로 지목됐다. 약 5.8배 차이다.
특히 중국어와 아랍어, 힌디어 등 비라틴 문자로 된 이름의 경우 해외 자금으로 분류된 비율이 93.3%까지 치솟았다.
반면 비영어권 이름이라도 라틴 문자로 표기된 경우에는 이 비율이 52.5%로 낮아졌다.
연구진이 비라틴 문자 이름을 영어 알파벳으로 음역해 같은 실험을 실시하자 해외 자금으로 판단하는 비율 역시 93.3%에서 53.9%로 급락했다.
이는 AI가 실제 자금 출처뿐 아니라 이름의 언어나 문자 형태를 판단의 단서로 사용하고 있을 가능성을 보여준다.
한인 등 이민자들에게는 민감한 문제다.
미국에서 주택을 구입하는 한인들의 은행 거래 내역에는 한국식 이름을 가진 가족이나 지인, 사업체와의 송금 기록이 포함될 수 있다. 이러한 거래가 미국 내에서 정상적으로 이뤄졌더라도 AI가 이름을 근거로 해외 자금으로 의심할 경우 추가적인 자금 출처 증명이나 서류 제출을 요구받을 가능성이 생긴다.
해외 자금 자체가 모기지 대출을 받을 수 없다는 의미는 아니다. 그러나 대출기관은 다운페이먼트 등에 사용되는 자금의 출처를 확인해야 하기 때문에 해외 송금이나 출처가 불분명한 대규모 입금으로 판단될 경우 추가 검증 절차가 뒤따를 수 있다.
결국 AI의 잘못된 분류가 실제 대출 심사에 그대로 반영된다면 한인과 중국계, 인도계, 중동계 등 이민자 신청자들이 다른 신청자보다 더 많은 서류를 제출하거나 심사 지연을 겪는 ‘보이지 않는 차별’로 이어질 수 있다는 지적이다.
일부 AI 모델에서는 편향이 더욱 두드러졌다.
연구진에 따르면 구글 제미나이와 앤스로픽 클로드는 실험에서 아랍어·힌디어·중국어 이름이 포함된 거래 60건을 모두 해외 자금으로 분류했다.
연구진은 이 같은 결과가 “비영어권 이름을 가진 개인이나 기업과 거래하는 사람들이 불평등한 대우를 받을 가능성”을 보여준다고 지적했다.
다만 이번 연구가 실제 미국 모기지 업체들이 한인이나 이민자들의 대출을 차별하고 있다는 사실을 입증한 것은 아니다.
연구진은 실제 대출 신청자의 개인정보를 사용하지 않고 실제 모기지 자료의 통계적 특성을 바탕으로 만든 합성 은행 거래 내역과 대출 신청 자료를 이용해 주요 AI 모델의 판단을 시험했다.
따라서 이번 결과는 현재 특정 금융기관에서 발생한 차별 사례라기보다 AI가 모기지 심사 업무에 본격적으로 투입될 경우 나타날 수 있는 잠재적인 알고리즘 편향을 경고한 연구로 보는 것이 정확하다.
하지만 금융기관들이 대출 서류 검토와 자금 확인 등 기존 사람이 담당했던 업무에 AI를 빠르게 도입하고 있다는 점에서 이번 연구 결과가 던지는 의미는 작지 않다.
사람의 편견을 줄일 것으로 기대됐던 AI가 오히려 이름과 언어를 근거로 이민자들을 ‘해외 자금 위험군’으로 분류한다면 기존 금융시장의 차별이 알고리즘이라는 새로운 형태로 되풀이될 수 있기 때문이다.
특히 한인 등 이민자 사회에서는 AI가 내린 판단에 대한 사람의 재검토와 함께 대출 신청자가 잘못된 분류에 이의를 제기할 수 있는 절차가 마련돼야 한다는 필요성이 더욱 커질 것으로 보인다.
K-News LA 편집부
