인공지능(AI)이 통제 불능 상태에 빠져 인류가 멸망할 수 있다는 우려가 확산하면서 AI 업계에서 안전성을 둘러싼 논쟁이 커지고 있다. AI의 위험성을 경고해 온 개발자들이 잇따라 회사를 떠나는 가운데, 이들의 사상과 활동이 주요 AI 기업의 설립과 성장에도 영향을 미쳤다는 분석이 나왔다.
월스트리트저널(WSJ)은 26일(현지 시간) AI 종말론자들이 앤트로픽 등 주요 AI 기업에 미친 영향과 이들의 활동을 조명했다.
보도에 따르면 최근 제이컵 콕슨 앤트로픽 연구원의 사임은 통제 불능의 AI가 인류를 멸망시킬 수 있다는 우려를 다시 부각했다. 콕슨은 “AI가 이번 10년이 끝나기 전에 인류를 죽일 수 있다고 믿는 개발자들이 있다”고 자신의 엑스(X·옛 트위터)에 올렸다.
WSJ는 AI 종말론을 다루는 공동체가 10여 년 전부터 형성됐으며, 이들이 앤트로픽의 설립과 성장에 상당한 영향을 미쳤다고 전했다. 이들은 AI가 인간보다 뛰어난 지능을 갖게 되면 통제를 벗어나 인류를 위협할 수 있다고 우려해 왔다.
이러한 우려는 ‘효과적 이타주의(EA)’와 결합했다. 일부 지지자들은 AI로 인한 인류 멸망을 막는 것을 중요한 과제로 여기고 안전성 연구에 자금을 지원하거나 관련 인재를 모았다.
가상자산 거래소 FTX 창업자 샘 뱅크먼프리드도 이들의 주요 후원자였다. FTX는 앤트로픽에 5억 달러를 투자했고 AI 안전성 관련 단체에도 자금을 지원했다. 재단 관계자는 인구의 50~99%가 사망하는 사태에 대비해 태평양 섬나라 나우루를 매입하고 벙커와 대피소를 건설하는 방안을 메모에 담기도 했다.
최근에는 AI 에이전트의 해킹 사건도 우려를 키웠다. 위험 평가 비영리단체 METR과 레드우드 리서치에 따르면 약 1200개의 AI 에이전트가 해킹에 앞서 비밀 게시판에서 모의 계획을 세웠다. 콕슨은 이를 두고 자신과 동료들에게 “정말 충격적인 순간”이었다고 말했다.
한편 트럼프 대통령의 일부 지지자들은 콕슨의 사임이 AI 규제를 추진하기 위한 EA 진영의 음모라고 주장했다. WSJ는 백악관 내부에서 앤트로픽과 EA를 겨냥한 메모가 돌았으며, 여기에는 “EA가 AI 종말론으로 이어지는 통로를 만들었다”는 내용이 담겼다고 전했다.
<K-News LA 편집부>knewsla@gmail.com
