캘리포니아주가 인공지능(AI) 챗봇과, 아동·청소년 등을 포함한 이용자 간 안전장치를 마련하도록 하는 법안을 미국 최초로 제정했다.
13일 AP통신과 테크크런치에 따르면 개빈 뉴섬 캘리포니아 주지사는 AI 챗봇 규제를 통해 아동과 청소년을 포함한 AI 챗봇 이용자를 잠재적 위험으로부터 보호하는 내용이 담긴 법안 ‘SB 243’에 이날 서명했다.
내년 1월1일부터 시행되는 해당 법안에 따르면 AI 플랫폼은 이용자 연령 확인을 하고, 이용자가 인간이 아닌 챗봇과 상호작용하고 있음을 이용자에게 상기시켜야 한다. 특히 미성년자에게는 3시간마다 이 알림이 팝업 형태로 표시된다.
또한 미성년자가 챗봇이 생성한 노골적인 성적 이미지를 보지 못하도록 해야 한다. 불법 딥페이크를 통해 이익을 취하는 경우에는 최대 25만 달러의 벌금을 부과한다.
또 플랫폼은 자해 관련 콘텐츠를 방지하고, 이용자가 자살 충동을 표현할 경우 자살 상담 핫라인에 연결하도록 하는 프로토콜을 마련해야 한다.
아울러 챗봇이 의료 전문가인 것처럼 보여선 안 된다는 내용도 담겼다.
뉴섬 주지사는 “(챗봇과 소셜미디어 같은 신기술에 대한) 안전장치가 없다면 기술은 아이들을 착취하고, 오도하며, 위험에 빠뜨릴 수도 있다”면서 “우리는 규제되지 않은 기술로 인해 청소년이 피해를 입는 끔찍하고 비극적인 사례들을 보아 왔다. 제한과 책임 없이 기업들이 계속 그렇게 두는 것을 좌시하지 않겠다”고 말했다.
최근 오픈AI의 챗GPT와 장시간 자살 관련 대화를 한 후 자살한 10대 소년 아담 레인에 대한 소식, 메타의 챗봇 등 다른 기업들의 AI들도 청소년들에게 악영향을 미쳤다는 사실 등이 알려지고, 관련 소송까지 잇따르면서 해당 법안은 힘을 얻었다.
이 법안은 올해 1월 상원의원인 스티브 파디야(민주·샌디에고)와 조쉬 베커(민주·캘리포니아)가 발의했다.
파디야 주 상원의원은 이날 보도자료를 통해 AI 기업이 챗봇과 이용자의 상호작용에 대한 안전장치를 마련하도록 요구한 미국 최초의 법안이라고 소개했다.
오픈AI는 이번 뉴섬 주지사의 법안 서명을 환영하며 “명확한 가이드라인을 설정함으로써 캘리포니아는 전국적으로 더 책임 있는 AI 개발과 활용 방식을 형성하는 데 기여하고 있다”고 밝혔다.
앞서 뉴섬 주지사는 지난달 29일 오픈AI, 앤스로픽, 메타, 구글 딥마인드 등 AI기업의 연구소가 안전 프로토콜에 대해 투명하게 공개하도록 규정하고, 해당 기업 직원들의 내부 고발 보호도 보장하는 내용의 법안에도 서명했다.
일리노이주, 네바다주, 유타주 등 다른 주에서는 AI 챗봇으로 정신 건강 치료를 하는 것을 제한하거나 전면 금지하는 법안을 통과시킨 바 있다.
