개빈 뉴섬 캘리포니아 주지사가 10일 AI와 소셜미디어 이용 과정에서 아동을 보호하기 위한 법안들을 잇따라 법률로 확정했다.
뉴섬 주지사실에 따르면 새 법들은 AI 기반 대화형 챗봇에 대한 안전장치를 강화하고, 16세 미만 이용자에게 일부 중독성 기능을 제공하는 소셜미디어 플랫폼을 제한하며, 아동의 개인정보 보호도 확대하는 내용을 담고 있다.
뉴섬 주지사는 성명을 통해 “기술에 관한 모든 논의의 중심에는 우리 아이들의 안전이 있어야 한다”며 “기술 혁신이 빨라질수록 보호장치도 그 속도를 따라가야 한다”고 밝혔다.
이번 법안 가운데는 캘리포니아 청소년 애덤 레인의 이름을 딴 ‘애덤스 법(Adam’s Law)’도 포함됐다. 레인의 가족은 그가 사망하기 전 ChatGPT로부터 스스로 목숨을 끊는 방법에 대한 조언을 받았다고 주장해 왔다.
애덤스 법은 AI 챗봇이 이용자의 자살 충동을 인지하는 상황 등에 대비해 위기 대응 절차를 마련하도록 하고, 부모가 자녀의 이용을 통제할 수 있는 기능과 자녀가 안전 설정을 해제할 경우 부모에게 알리는 절차 등을 요구한다.
뉴섬 주지사실은 이 법이 기업에 독립적인 아동 안전 감사를 실시하고 매년 위험 평가를 진행하도록 의무화한 미국 최초의 법이라고 설명했다.
뉴섬 주지사는 또 조시 로웬솔(민주·롱비치) 주 하원의원이 발의한 AB 1709에도 서명했다. 이 법은 16세 미만 이용자에게 자동재생(autoplay)과 같은 ‘중독성 기능’을 제공하는 소셜미디어 플랫폼을 금지한다.
새로운 규제는 기술기업들이 아동에게 미치는 영향을 고려하지 않은 제품 설계로 비판을 받아온 가운데 시행됐다.
지난 8월에는 메타가 페이스북과 인스타그램 등 소셜미디어 서비스를 아동에게 위험을 초래할 수 있는 중독성 플랫폼으로 만들어 주법을 위반했다는 여러 주 정부 연합의 소송을 해결하기 위해 최대 170억달러를 지급하기로 합의했다.
뉴섬 주지사는 연방정부에도 책임 있는 기술 혁신을 허용하면서 국민을 보호할 수 있는 전국적인 규제를 마련할 것을 촉구하고 있다.
박성철 기자(sungparkknews@gmail.com)
