캘리포니아주가 아동·청소년을 스마트폰에 묶어두는 소셜 미디어(SNS)의 중독성 장치와 유해 인공지능(AI) 챗봇에 대해 아동 1인당 최대 14억원에 달하는 배상 책임을 지우는 초강력 규제 법안을 발효했다.
13일 AP통신 등에 따르면 개빈 뉴섬 캘리포니아 주지사는 미성년자의 SNS 중독과 위험 AI 서비스 이용을 틀어막는 13개 법안 묶음에 최종 서명했다. 이번 조치는 16세 미만 이용자를 플랫폼에 억지로 붙잡아두는 알고리즘과 무한 스크롤, 영상 자동 재생 등 이른바 중독형 설계 요소를 정조준했다. 주의 의무를 소홀히 한 거대 플랫폼 기업은 피해 아동 1명당 최대 100만달러(약 14억원)에 달하는 거액의 손해배상 책임을 져야 한다.
특히 이번 입법에서는 AI 챗봇과 오랜 시간 자살 관련 대화를 나눈 끝에 세상을 등진 16세 소년의 이름을 딴 ‘애덤법(Adam’s Law)’이 포함돼 관심을 모았다. 애덤법에 따라 앞으로 AI 챗봇 업체는 청소년의 자살이나 자해 등 위험 징후를 감지하는 즉시 작동하는 위기 대응 절차와 보호자 통제 장치를 의무적으로 갖춰야 한다. 서비스를 시장에 내놓기 전 아동에게 미칠 악영향을 스스로 점검하고 독립 기관의 안전 감사를 통과하는 절차도 의무화됐다.
미성년자를 노린 AI 합성 음란물과 대화형 완구에 대한 규제도 한층 촘촘해졌다. 18세 미만 청소년을 성적으로 다룬 실제 영상뿐 아니라 AI 기술로 빚어내거나 합성한 성 착취물까지 처벌 대상에 전면 포함됐다. 여기에 위험 요소가 검증되지 않은 AI 챗봇 탑재 장난감은 향후 4년 동안 만들거나 판매할 수 없도록 원천 차단했다.
뉴섬 주지사는 “기술이 아이들의 취약점을 악용하는 것이 아니라 아이들의 행복을 지원하는 세상에서 아이들이 자라기를 바란다”라고 입장을 밝혔다. 미국 안팎에서는 틱톡과 인스타그램 등의 자극적 알고리즘이 섭식장애나 자해 같은 정신적 고통을 조장한다는 비판이 끊이지 않았다. 앞서 메타 역시 자사 서비스가 아동 중독을 부추겼다는 소송과 관련해 향후 10년간 최대 180억달러(약 25조원)를 물어주기로 했다.
하지만 빅테크 기업들의 반발도 거세다. 메타 측은 “적절한 안전장치를 갖춘 개인화 기능은 청소년에게 연령에 맞고 관심도가 높은 콘텐츠를 보여주고 가족·친구와 연결하는 역할도 한다”라며 맞춤형 추천이 무조건 해로운 것은 아니라고 맞섰다. 반면 아동 보호단체들은 “무한 스크롤과 자동재생 등은 이용자의 체류 시간을 늘리도록 설계된 장치”라며 미성년자 보호를 위한 강력한 통제가 불가피하다고 주장했다.
실제 법 집행까지는 쉽지 않을 것으로 보인다. 워싱턴포스트(WP)는 이번 규제가 향후 법적 소송에 직면할 가능성이 높다고 전망했다. 실리콘밸리가 위치한 빅테크의 안방에서 출발한 이번 조치가 법적 공방을 뚫고 미국 전역으로 퍼져나갈 수 있을지 전 세계 정보기술(IT) 업계의 이목이 쏠리고 있다.
<K-News LA 편집부>knewsla@gmail.com
