미국 정부가 인공지능(AI)을 활용해 이민자와 유학생, 팔레스타인 지지 시위 참가자 등을 광범위하게 감시하고 있다고 국제 인권단체가 주장했다.
국제앰네스티는 21일(현지 시간) 발표한 보고서에서 미국 국토안보부(DHS) 문서 등을 검토한 결과, 팔란티어와 바벨스트리트가 제공하는 AI 기반 감시 기술이 이민자·유학생·팔레스타인 지지 시위자 등을 추적하는 데 활용되고 있다고 밝혔다.
특히 국무부 주도의 ‘체포·취소(Catch and Revoke)’ 프로그램은 소셜미디어(SNS) 활동, 비자 신분, 자동화된 위협 평가를 토대로 외국인 유학생과 난민, 망명 신청자를 감시하는 방식으로 운영된다고 보고서는 지적했다.
이 과정에서 팔란티어의 ‘이민OS'(Immigration OS)와 바벨스트리트의 ‘바벨X'(Babel X)가 핵심 역할을 맡고 있는 것으로 확인됐다.
앰네스티는 이러한 시스템이 상시 감시를 통해 외국인 유학생, 난민, 이민자를 임의적이고 불법적으로 비자 취소, 구금, 추방으로 이어질 위험이 크다고 경고했다.
특히 SNS 게시글에 ‘감정 분석’을 적용해 테러 의심 글을 자동 분류하는 기능 등은 오류와 편향 위험이 크며, 팔레스타인 지지 발언은 반유대주의로 잘못 규정될 수 있다고 꼬집었다.
에리카 게바라-로사스 국제앰네스티 선임 국장은 “미국 정부는 대규모 추방 계획과 친팔레스타인 표현 탄압이라는 맥락에서 침해적인 AI 기술을 배치하고 있다”며 “이주민 공동체와 유학생들에게 공포 분위기와 ‘위축 효과’를 강화하고 있다”고 비판했다.
엠네스티에 따르면 팔란티어는 앞서 2010년대 이민세관단속국(ICE)과 협력한 전력이 있으며, 최근에도 ICE와 3000만 달러 규모 계약을 체결했다.
바벨스트리트 역시 미국 세관국경보호국(CBP)과 협력해 SNS와 민간 데이터를 수집·분석해온 것으로 알려졌다.
앰네스티는 두 기업이 인권 실사를 소홀히 했다며 즉각적인 계약 종료를 촉구했다.
