캘리포니아주의 개빈 뉴섬 주지사가 29일(현지시간) 일반인이 인공지능(AI )을 위험한 목적에 사용하는 것을 금지하는 등의 중요 내용이 담긴 AI 안전대책 법안에 최종 서명했다.
이는 일반인들이 강력한 대형 AI모델을 사용해서 화생방 무기 제조나 은행 금융시스템의 고장 같은 파괴적인 활동을 하지 못하도록 막는 법안이다.
이번 법안 제정은 뉴섬 주지사가 최근 빌 클린턴 전 대통령과의 대화에서 “캘리포니아주가 AI 안전 규제의 선도자”라고 주장하면서 연방 정부 차원의 무능과 무대책을 비판한 이후로 발의되었다.
지난 해 AI 규제에 관한 입법에 세부적 결함을 들어 거부권을 행사하기도 했던 뉴섬 주지사는 “앞으로 이 번 법의 시행에 따라서 미국 최초로 대형 AI모델들에 대해 국내 최대의 자생 산업인 AI 산업을 해치지 않고도 제대로 규제를 가할 수 있게 되었다”고 설명했다.
세계 최고의 AI 기업들 대부분이 캘리포니아 주에 자리잡고 있기 때문에, 이들은 모두 캘리포니아 주 법에 따라야 한다.
뉴섬 주지사는 이번 발표에서 ” 캘리포니아주는 우리 지역에 미칠 AI피해의 악영향으로부터 지역사회를 보호하면서도 AI 산업의 번영을 보장할 수 있는 새로운 규정을 확립했다. 이 법안은 (규제와 발전의) 균형을 잡아 줄 것이다”라고 밝혔다.
이번 법안에는 모든 AI 회사들이 자체 개발한 가장 최신의 AI 모델들이 중대한 해를 입히는데 악용되는 것을 막는 안전규칙을 지키고 이를 모두 대중에게 공개하는 등 규정에 따라야 한다고 되어 있다.
이 규칙들은 AI 시스템이 과도한 전산 물량에 사용되면서 “프론티어”의 문턱에 이르는 것을 사전예방 할 수도 있다.
규제의 기준은 컴퓨터가 처리하는 전산 물량, 특히 현재의 AI 처리능력이 다음 세대에는 더욱 많아지고 초강력해 질 것에 대비해서 마련되었다고 작성자는 설명했다.
기존 AI 시스템은 대부분 캘리포니아주에 자리잡고 있는 앤트로픽, 구글, 오픈AI, 메타 등 주요 기술 기업들이 만들고 있다.
이번 법안에서 AI로 인한 피해는 최소 10억 달러의 피해 또는 50명 이상의 사상자를 유발하는 전력망에 대한 사이버 공격 등으로 정의되어 있다.
회사들은 안전 문제나 인명 피해 사건에 대해서는 15일 이내에 주 정부에 보고해야 한다. 또한 AI노동자와 연구자들이 공공의 정보를 공유하게 하며, 내부 고발자를 보호하는 내용도 담고 있다.
이 법안에 대해 일부 기술기업들은 반대를 하면서 AI 규제는 주 정부가 아니라 연방정부 차원에서 해야 한다고 주장했다.
하지만 앤트로픽은 이번 법안 내용은 많은 기술회사들이 이미 채택하고 있는 안전 수칙을 공식화한 “실질적인 안전 장치”라며 환영했다.
이 회사의 공동창업자인 잭 클라크 대표는 ” 연방 규제의 기준은 여전히 각 주의 규제를 갖다 붙이는 수준을 피해서 존재해야 하지만, 캘리포니아주는 공공의 안전과 혁신의 지속에 꼭 필요한 양자간 균형을 염두에 둔 강력한 원칙과 규범을 만들었다”고 긍정적 반응을 보였다.
