빠르게 발전하는 인공지능(AI)이 제기하는 안보 위협으로 인류의 생존이 위태로워질 수 있으며 재앙을 막기 위한 시간이 촉박하다고 경고하는 국무부 공인 보고서가 발표됐다고 미 CNN이 12일 보도했다.
보고서는 1년여 동안 200여의 AI 회사 대표, 보안 전문가, 대량파괴무기 전문가, 국가안보 당국자 등을 인터뷰한 결과를 토대로 하고 있다.
글래드스톤 AI사가 공개한 이 보고서는 최첨단 AI 시스템이 최악의 경우 “인류를 절멸하는 수준의 위협을 제기한다”고 단언했다.
미 국무부 당국자는 국무부가 보고서를 승인했음을 확인하면서도 미 정부의 공식 견해는 아니라고 밝혔다.
글래드스톤 AI의 제레미 해리스 CEO는 “AI는 경제 혁신 기술이 된지 오래다. 질병을 치료하고 과학을 발전시키며 극복하기 어려운 어려움을 극복할 수 있게 한다. 그러나 동시에 재앙적 위험 등 심각한 위험이 될 수 있다는 점도 유념해야 한다. AI의 능력이 일정 한계를 넘을 경우 통제할 수 없게 된다는 증거들이 늘어나고 있다”고 강조했다.
글래드스톤 AI는 AI가 제기하는 위험을 2가지로 분석했다.
우선 최첨단 AI 시스템이 회복 불가능한 피해를 입히는 무기가 될 수 있다고 지적했다. 둘째, AI를 개발하는 민간회사들이 통제력을 잃을 수 있다고 우려하면서 “전 세계 안보에 파괴적 결과를 가져올 수 있다”고 강조했다.
보고서는 “핵무기 발명이 가져온 것과 같은 국제 안보 위협을 제기한다”면서 AI 무기 경쟁으로 “대량파괴 무기 규모의 치명적 사건”이 일어날 수 있다고 밝혔다.
보고서는 AI 부처의 설립과 AI 훈련에 사용되는 컴퓨터 용량을 규제하는 등 극적인 대응 조치가 필요하다고 강조했다.
