세계 최대 인공지능(AI) 개발사 중 하나인 앤트로픽의 공동창업자가 AI가 통제하기 어려울 정도로 위험해질 경우 시스템 작동을 완전히 중단할 수 있는 비상 정지 장치 ‘킬 스위치(kill switch)’ 도입을 기업에 의무화하는 방안이 필요할 수 있다고 밝혔다.
14일(현지 시간) 앤트로픽 공동창업자인 잭 클라크는 BBC와의 인터뷰에서 “대부분의 AI 연구소는 시스템의 작동을 중단시킬 수 있는 다양한 방법을 갖고 있다”면서도 킬 스위치 설치와 제3자 검증을 의무화하는 방안을 정책적으로 논의할 필요가 있다고 말했다.
클라크는 “기업들이 반드시 킬 스위치를 갖도록 의무화해야 하는가, 이를 제3자가 검증할 수 있어야 하는가”라고 질문을 던진 뒤, “사회가 결국 이런 문제에 관한 규칙을 만들고 싶어 할 수 있다”고 전했다.
이번 발언은 AI 기업 관계자들이 첨단 모델의 빠른 발전에 따른 위험을 잇달아 경고하는 가운데 나왔다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 최근 AI 개발 속도를 늦추고 외부 감시를 강화해야 한다고 주장했다.
앤트로픽 연구진 내부에서도 강한 경고가 나오고 있다. 앤트로픽 과학자 에번 허빙어는 향후 10년 안에 AI로 인해 인류가 멸종할 가능성을 개인적으로 10% 이상으로 본다고 밝혔다. ‘AI의 대부’로 불리는 제프리 힌턴도 AI가 인류를 멸망시킬 가능성이 10%라는 전망이 “비합리적이지 않다”고 평가했다.
클라크는 구체적인 멸종 가능성을 수치화하는 데는 선을 그으면서도 AI 산업을 규제 없이 방치해서는 안 된다고 강조했다. 그는 “우리는 엄청난 위험을 걸고 주사위를 던지고 있다”며 “이 산업의 방향을 바꿔야 한다”고 말했다.
미국 의회에서는 이미 이른바 ‘킬 스위치법(Kill Switch Act)’이 발의된 상태다. 법안은 AI 기업이 문제가 발생한 AI 시스템을 중단할 수 있는 장치를 갖추도록 하고, 일부 정부기관이 위험한 AI의 작동 중단이나 기능 제한을 요구할 수 있도록 하는 내용을 담고 있다.
다만 도널드 트럼프 미국 대통령은 AI 개발을 늦추거나 규제를 강화하려는 움직임에 반대하고 있다. 트럼프 대통령은 AI가 인류를 파괴할 수 있다는 주장을 “사기극(HOAX)”이라고 일축하며 AI 개발 경쟁에서 중국에 뒤처져서는 안 된다고 주장했다.
영국 정부 역시 최근 AI 킬 스위치 도입 방안을 거부했다. 킬 스위치를 도입하더라도 다른 국가에서 AI가 개발되거나 악용되는 것을 막을 수 없다는 이유에서다.
