수년간 인공지능(AI)의 잠재력을 강조하며 막대한 투자금을 끌어모은 주요 AI 기업들이 최근 잇따라 최첨단 모델의 개발 속도를 늦춰야 한다고 주장하면서 그 배경에 관심이 쏠리고 있다. AI 안전에 대한 우려가 커진 영향이지만, 수익성 입증과 기업공개(IPO) 등 경영 압박에 직면한 선두 기업들에 속도조절과 규제 강화가 유리하게 작용할 수 있다는 분석도 나온다.
14일 야후 파이낸스에 따르면 다리오 아모데이 앤트로픽 최고경영자(CEO)와 샘 올트먼 오픈AI CEO, 일론 머스크 xAI CEO 등은 최근 최첨단 AI 모델의 개발 속도를 늦추지 않을 경우 인류에 심각한 위험을 초래할 수 있다고 잇따라 경고했다.
실리콘밸리는 수년 전부터 AI의 잠재적 위험에 대해 경고해 왔지만, 주요 AI 기업 수장들이 동시에 개발 속도 조절의 필요성을 제기한 것은 이례적이다.
이 같은 움직임은 AI 기업들이 사업적으로 여러 압박에 직면한 가운데 나왔다. AI 데이터센터 건설을 둘러싼 지역사회의 반발이 확산하고 있고, 막대한 자금이 투입된 AI 사업에서 실질적인 수익을 입증하라는 투자자들의 요구도 거세지고 있다.
저렴한 오픈웨이트 모델의 확산도 부담이다. 기업과 개발자들이 비싼 최첨단 AI 모델 대신 상대적으로 저렴한 모델을 직접 운영할 수 있게 되면서 막대한 개발비를 투입한 AI 기업들의 수익화가 어려워질 수 있기 때문이다.
AI 업계의 양대 기업인 앤트로픽과 오픈AI는 IPO도 준비하고 있어 재무 상황과 사업모델에 대한 깐깐한 검증을 앞두고 있다. 두 회사는 그동안 AI의 위험성을 지속적으로 경고하면서도 최첨단 모델 개발에는 속도를 내왔다.
이런 상황에서 AI 개발 속도조절과 규제 강화가 오히려 선두 AI 기업들에 유리하게 작용할 수 있다는 분석도 나온다. 안전장치를 강화하면 AI에 대한 대중의 우려를 완화할 수 있는 데다, 대형 AI 기업들은 새로운 규칙을 만드는 과정에서 영향력을 행사할 여지가 크기 때문이다. 반면 규제 준수에 드는 비용은 자금력이 부족한 신생 기업에는 새로운 진입장벽이 될 수 있다.
개발 속도를 늦추는 것이 기업들의 실적 압박에 대한 부담을 덜어주는 효과를 낼 수 있다는 지적도 나온다. 실적 목표를 달성하지 못하거나 신제품 출시가 늦어지고 비용 절감에 실패하더라도 AI 안전을 위해 개발 속도를 조절했다는 설명이 가능해지기 때문이다.
실제로 올트먼 CEO는 최근 AI 안전에 대한 우려를 이유로 현재가 오픈AI의 IPO를 추진하기에는 “현명하지 못한 시기”라고 밝혔다.
다만 AI 기업들의 경고를 단순히 사업적 이해관계만으로 설명하기는 어렵다. AI 모델의 성능이 단기간에 급격히 향상될 수 있는 만큼 기업 내부에서 실제로 이전보다 심각한 위험이 감지됐을 가능성도 배제할 수 없기 때문이다.
외신은 AI의 위험성이 기업 수장들조차 통제할 수 있을지 확신하기 어려울 만큼 크다면, 이들에게 기술 개발과 통제를 맡기는 것이 적절한지에 대한 근본적인 의문도 제기된다고 지적했다.
<K-News LA 편집부>editor@knewsla.com
