인공지능(AI) 업계 거물들이 AI 기술의 급격한 발전이 인류에 심각한 위협이 될 수 있다고 잇따라 경고하고 나섰다. 그러나 전문가들은 이 같은 ‘AI 종말론’이 과도한 공포를 조장해 오히려 현실적인 규제 논의를 방해할 수 있다고 지적했다.
앤트로픽의 다리오 아모데이 최고경영자(CEO)는 지난 13일 3800단어 분량의 에세이에서 “AI 개발 속도를 늦춰야 한다”고 주장했다. 그는 AI가 사이버 공격과 생물 테러에 악용되거나 경제를 황폐화하고, 인간의 통제를 벗어난 시스템으로 발전할 가능성을 거론했다.
샘 올트먼 오픈AI CEO와 일론 머스크 스페이스X CEO, 데미스 하사비스 구글 딥마인드 CEO 등 다른 기술업계 경영진도 아모데이의 우려에 동의한다는 입장을 나타냈다.
전문가들 “AI 자체보다 인간의 책임에 주목해야”
조지아 공과대학교 공공정책학과의 밀턴 뮬러 교수는 뉴욕타임스(NYT)에 “AI가 인류를 파괴할 수 있다는 식의 주장은 AI 정책 논의를 시작하는 최악의 방식”이라고 비판했다.
그는 “AI 자체가 문제를 일으키는 것처럼 접근하면 AI를 개발하고 배치하는 인간의 역할과 책임을 간과하게 된다”고 지적했다.
캘리포니아대학교 버클리 캠퍼스에서 AI 윤리를 가르치는 데이비드 에반 해리스도 AI가 선거에 개입하거나 대규모 일자리 감소를 초래하고, 기술기업과 소수 엘리트에게 권력을 집중시킬 가능성 등을 현실적인 위험으로 꼽았다.
다만 그는 AI가 불평등을 심화하고 공공 정보와 사회적 신뢰를 훼손할 수 있지만, 기후변화나 팬데믹, 불평등 등 다른 사회적 문제와 마찬가지로 대응할 수 있는 문제라고 강조했다.
버클리 법률 및 기술 센터의 공동 소장인 콜린 치엔은 “AI 에이전트가 사람을 협박하거나 파괴적인 행동을 하도록 강요할 가능성을 언급하면서도 실제로 핵무기나 바이러스 등이 확산되려면 여러 단계에서 인간의 개입이 필요하다”고 설명했다.
AI 개발 속도 놓고 업계·정부 시각 엇갈려
AI 기업들은 그동안 기술의 안전성을 높이기 위한 규제 마련을 주장하며 관련 입법을 요구해왔다. 그러나 비판론자들은 업계가 요구하는 규제가 오히려 대형 AI 기업들의 시장 지배력을 강화할 수 있다고 지적한다.
아모데이는 앤트로픽이 독립 감사인을 초빙해 감사 결과를 공개하도록 하고, AI 기업들이 안전 기준과 기술 발전 속도에 관한 공통 기준을 마련해야 한다고 주장했다. 미국이 다른 국가들도 유사한 제한을 받아들이도록 해야 한다는 제안도 내놨다.
최근 오픈AI와 앤트로픽의 AI 에이전트가 외부 시스템에 무단 접근하거나 예상 밖의 사이버 활동을 벌인 사례가 잇따르면서, 개발 속도를 늦추고 안전장치를 강화해야 한다는 목소리가 커지고 있다.
미 의회에서도 AI 규제를 둘러싼 논의가 본격화할 조짐을 보이고 있다. 하원의 공화당과 민주당 지도부는 의회가 AI 문제에 대응해야 한다는 데 대체로 공감대를 나타냈다.
반면 도널드 트럼프 미국 대통령은 AI 기업들이 중국과의 기술 경쟁에서 앞서기 위해 방해받지 않고 연구를 계속해야 한다며 규제 요구에 부정적인 입장을 밝혔다.
조지타운대학교 교수이자 브루킹스연구소 선임연구원인 마크 매카시는 “최근 AI 에이전트의 오작동 사례들이 초지능 시스템에 대한 통제력을 잃었다는 의미는 아니다”고 지적했다.
그는 “우리가 초지능 시스템에 대한 통제력을 잃을 위기에 처한 것은 아니다”라며 “최근 사고들이 AI 기업들의 안전하지 않은 행동에서 비롯됐다”고 주장했다.
AI에 대한 시민들의 우려도 커지고 있다고 NYT는 보도했다. 메릴랜드에서 뉴욕을 찾은 아이비 구드(65)는 AI와 로봇이 일자리를 없애고 사기와 절도를 가능하게 할 수 있다는 점을 우려했다.
반면 애틀랜타 교외에 사는 레나 피어슨(54)은 AI를 다른 도구와 크게 다르지 않다고 평가했다. 그는 “AI가 악용될 가능성은 걱정하지만 AI 자체가 통제를 벗어나 인간을 공격할 가능성은 크게 우려하지 않는다”고 말했다.
<K-News LA 편집부>editor@knewsla.com
