인공지능(AI) 업계 경영진과 과학자 300여명이 AI 기술이 앞으로 인류에 실존적 위협이 될 수 있다고 경고했다. 전염병, 핵전쟁과 동등한 사회적 위험으로 간주해야 한다는 주장이다.
30일 뉴욕타임스(NYT) 등 외신에 따르면 미국 비영리단체인 AI안전센터(CAIS)는 이날 성명서를 내고 이같이 밝혔다.
공개 성명에는 AI업계에서 종사하는 경영진, 연구원, 엔지니어 350여명이 서명했다. 챗GPT 개발사 오픈AI의 샘 올트먼 최고경영자(CEO), 데이비드 하사비스 구글 딥마인드 CEO도 사인했다.
성명은 “AI로 인한 인류 멸망 위험을 완화하는 것이 전염병, 핵전쟁과 같은 다른 사회적 위험과 함께 전세계적으로 우선 순위가 되어야 한다”고 강조했다.
이번 성명은 견제받지 않는 AI의 궁극적 위험에 대한 광범위한 우려를 강조하고 있다.
NYT는 “오늘날의 최첨단 챗봇은 주로 제공받은 훈련 데이터를 기반으로 패턴을 재현하며 스스로 생각할 수 없다”며 “AI로 인해 허위 정보 확산, 실업, 통제 불가능 등 문제가 우려되고 있다”고 보도했다.
전문가들은 의료 정보, 정서적 위안, 의사 결정에 인공 지능을 활용하는 경우 큰 문제가 될 수 있고, 인공지능을 악용해 허위 정보를 퍼트리는 사람도 있을 것으로 우려한다. 사람처럼 대화하는 능력이 있고 설득력이 뛰어나기 때문이다.
아울러 인공지능이 일자리를 대체할 것이란 우려가 나온다. 오픈AI사의 보고서에 따르면 미국 노동자 업무의 80%가 업무의 최소 10%를 인공지능으로 대체할 수 있고 19%는 업무의 50%를 대체할 수 있다.
또 인공지능이 자체적으로 컴퓨터 프로그램을 작성할 수 있는 탓에 예상치 못한 힘을 가질 수 있게 된다는 우려도 나온다.
그럼에도 AI 산업에 대해 투자가 몰리고 과대 광고가 이어지자 큰 사고가 발생하기 전인 AI 시대 초기에 규제를 마련해야 한다는 요구로 이어졌다.
CAIS의 책임자인 댄 헨드릭스는 트위터를 통해 캠브리지대 AI 교수인 데이비드 크루거가 성명을 처음 제안했다고 밝혔다.
그는 “사회는 여러 위험을 동시에 관리할 수 있다”라며 “리스크 관리 측면에서 현재의 해악 독점적으로 우선시하는 것이 무모한 것처럼 이를 무시하는 것도 무모한 것”이라고 강조했다.
지난 3월 말에도 1000명이 넘는 기술자, 연구자, 유명인들이 AI 기술이 ‘사회와 인류에 심각한 위협’을 제기한다고 경고하는 서한에 서명했고, 이후 서명자는 2만명이 넘어섰다.
일론 머스크 등 서명자들은 AI 연구소들이 6개월 동안 개발을 중단하고 인공지능 기술의 위험을 평가할 것을 촉구했다.
