40세 이상 지원자 집단소송으로 확대…“AI 업체도 책임질 수 있다” 쟁점
기업들이 인공지능(AI)을 이용해 수많은 입사지원자의 이력서를 자동 평가하는 시대가 본격화하면서, 채용 과정의 차별까지 AI가 자동화할 수 있다는 우려가 현실적인 법적 쟁점으로 떠오르고 있다.
미국에서는 AI 채용 시스템이 흑인과 40세 이상 중장년층, 장애가 있는 지원자를 불리하게 평가했다는 주장으로 대규모 집단소송까지 진행되고 있다.
블룸버그 로에 따르면 흑인 남성 데릭 모블리는 인사관리 소프트웨어 기업 워크데이(Workday)의 AI 기반 채용 심사 시스템이 인종과 연령, 장애를 이유로 자신을 차별했다며 2023년 소송을 제기했다.
모블리는 2017년 이후 워크데이 시스템을 사용하는 기업 100여 곳에 지원했지만 거의 모두 탈락했다고 주장했다. 일부 지원에서는 사람이 정상적으로 이력서를 검토했는지 의문이 들 정도로 빠른 시간 안에 자동 불합격 통보를 받았다는 것이 그의 주장이다.
소송은 개인 문제를 넘어 집단소송 성격으로 확대됐다.
캘리포니아 북부연방지법 리타 린 판사는 지난해 5월 워크데이의 AI 시스템으로 심사를 받은 40세 이상 지원자들이 함께 소송에 참여할 수 있도록 연령차별금지법(ADEA)에 따른 집단소송을 예비 승인했다.
대상은 2020년 9월 이후 워크데이 플랫폼을 이용해 입사 지원서를 제출하고 AI의 점수·순위·선별 과정에서 채용 추천을 받지 못한 40세 이상 지원자들이다.
블룸버그 로에 따르면 린 판사는 지난 6월 22일 워크데이가 요구한 소송 기각 신청을 상당 부분 받아들이지 않고 캘리포니아 공정고용주택법(FEHA)에 따른 차별 청구 등이 계속 심리될 수 있다고 판단했다.
워크데이가 채용 결정을 직접 내리는 고용주가 아닌 소프트웨어 공급업체라 하더라도, 캘리포니아에서 알고리즘을 설계·운영하며 채용 과정에 실질적으로 관여했다면 차별 책임 여부를 따져볼 수 있다는 것이다.
그동안 AI 채용 소프트웨어 업체들은 “최종 채용 결정은 기업이 한다”며 직접적인 고용차별 책임과 선을 그어왔다. 그러나 법원이 AI 업체의 역할까지 따지기 시작하면서 알고리즘을 개발하거나 제공한 기업도 차별 결과에 대해 법적 책임을 질 수 있는지가 새로운 쟁점으로 떠올랐다.
특히 AI가 인종이나 장애 같은 정보를 직접 입력받지 않더라도 문제가 발생할 수 있다는 지적이 나온다.
취업 공백 기간이나 과거 경력, 학력, 특정 직업 경험과 같은 정보가 연령·건강·성별 등의 대리변수로 작용해 특정 집단을 반복적으로 낮게 평가할 가능성이 있다는 것이다.
워크데이는 자사의 AI가 인종이나 나이, 장애 등 법적으로 보호되는 개인정보를 채용 점수 산정에 사용하지 않으며 AI가 최종 합격이나 불합격 결정을 내리는 구조도 아니라고 밝혔다.
회사는 AI가 지원자의 경력과 기술 등이 채용 공고의 조건과 얼마나 일치하는지를 평가해 채용 담당자에게 참고자료를 제공할 뿐 최종 결정권은 사람에게 있다고 설명하고 있다.
워크데이가 공개한 자체 자료에 따르면 올해 3월 외부 기관을 통해 뉴욕 지역 지원자를 대상으로 HiredScore Spotlight 시스템의 편향성을 검사했으며, 해당 표본에서는 인종이나 성별에 따른 통계적으로 유의한 불리한 영향이 발견되지 않았다고 밝혔다.
다만 회사도 이 결과가 특정 기간과 직종, 자체 채용 과정에 한정된 분석으로 다른 기업의 모든 사용 사례에 그대로 적용되는 것은 아니라고 명시했다.
AI 채용에 대한 규제도 강화되고 있다. 뉴욕시는 AI 등 자동화 채용결정도구를 사용하는 기업에 매년 독립적인 편향성 감사를 실시하고 그 결과를 공개하도록 하고 있다. 지원자에게는 AI가 심사에 사용된다는 사실을 사전에 통보해야 한다.
뉴욕주 감사원은 지난해 이 제도의 집행 실태를 조사한 결과 일부 기업의 규정 준수 여부를 제대로 확인하지 못하는 등 감독 체계에도 상당한 허점이 있다고 지적했다.
결국 AI 채용의 최대 쟁점은 기계가 사람보다 공정하냐는 단순한 문제가 아니다.
사람의 편견을 없애기 위해 도입한 AI가 과거 채용 데이터와 평가 기준에 들어 있는 편견을 대규모로 반복한다면, 인간 한 명의 차별보다 훨씬 빠르고 광범위한 ‘자동화된 차별’이 될 수 있기 때문이다.
<K-News LA 편집부>editor@knewsla.com
