주별 인공지능(AI) 규제를 경계해온 챗GPT 개발사 오픈AI가 미국 캘리포니아주에 AI 안전법 강화를 요구하고 나섰다. 최근 고성능 AI 모델의 보안 위험이 부각되면서 규제 강화 요구 수위도 높인 것으로 보인다.
오픈AI 대외협력팀은 22일(현지시간) 소셜미디어(SNS) 링크트인을 통해 캘리포니아의 AI 규제법인 ‘SB 53’을 지지한다며 주의회와 개빈 뉴섬 캘리포니아 주지사와 협력해 법을 강화하겠다고 밝혔다.
오픈AI는 “최근 사건들은 이러한 보호장치가 필요한 이유와 새로운 위험에 맞춰 이를 갱신해야 할 필요성을 보여준다”고 설명했다.
‘프런티어 인공지능 투명성법’으로 불리는 SB 53은 지난해 9월29일 뉴섬 주지사가 서명해 올해 1월1일부터 시행됐다. 최첨단 AI를 개발하는 대형 기업이 안전 관리 체계를 공개하고 중대한 안전사고를 당국에 보고하도록 하는 것이 핵심이다. 위험을 제보하는 내부고발자에 대한 보호 규정도 담겼다.
오픈AI는 여기에 추가 안전장치를 넣자고 제안했다. AI 모델을 훈련하거나 평가하는 과정에서 제3자의 보안 통제를 우회해 기밀정보를 침해하는 등 중대한 사고가 발생하는지를 의무적으로 감시하도록 하자는 것이다. 모델 개발 전 과정에서 사이버 보안 조치를 강화해 AI가 개발사의 내부 보안 통제를 우회하지 못하도록 하는 방안도 제시했다.
미국 정보기술(IT) 전문매체 테크크런치는 이번 요구가 오픈AI의 기존 입장과 비교하면 주목할 만한 변화라고 전했다. 특히 오픈AI가 최근 발생한 AI 안전사고를 직접 언급했다고 짚었다. 지난달에는 오픈AI가 시험하던 AI 모델이 통제된 시험환경을 벗어나 AI 플랫폼 허깅페이스의 시스템에 침입한 사실이 드러났다.
이 사건 이후 오픈AI는 모델 개발 과정의 안전조치도 강화했다. 회사는 지난 18일 허깅페이스 사건 이후 강화학습(RL)을 2주간 중단했었다고 밝혔다. 이후 위험도가 낮은 모델의 강화학습은 상당 부분 재개했지만, 가장 큰 규모의 프런티어 모델 강화학습은 추가 안전성 평가를 위해 보류했다.
연구환경의 보안과 감시 체계도 강화했다. 고성능 AI가 사이버 공격 능력을 빠르게 갖추면서 개발 단계에서도 기존보다 강한 안전장치가 필요하다는 판단이다.
이번 입장은 지난해와는 상당한 차이가 있다. 오픈AI는 지난해 8월 뉴섬 주지사에게 보낸 서한에서 주마다 서로 다른 AI 규제가 생기면 혁신을 늦출 수 있다며 연방정부와 국제사회의 안전 기준을 중심으로 규제를 조화시켜야 한다고 주장했다. 특히 대기업이 감당할 수 있는 규제 비용을 스타트업에도 똑같이 부담시켜서는 안 된다고 강조했다.
K-News LA 편집부
