인류를 전복시키는 인공 지능에 대한 아이디어는 지난 수십 년 동안 논의되어 왔고, SF영화의 단골 소재이기도 했다.
인간은 슈퍼 인공지능을 과연 통제할 수 있는 것인가? 이에 대한 연구결과 인간이 슈퍼인공지능을 통제하기 어렵다는 결론이 나왔다.
온라인 매체 ‘사이언스알럿’은 최근 인공지능 전문 저널 ‘Journal of Artificial Intelligence Research’에 실린 한 논문을 인용해 인간이 슈퍼인공지능을 제어하는 것은 사실상 불가능한 것으로 나타났다고 보도했다.
인간의 이해를 훨씬 뛰어 넘는 초 지능을 제어하려면 인간이 분석 할 수있는 초 지능의 시뮬레이션이 필요하지만 그러한 시뮬레이션을 만드는 것은 불가능하다는 것이다.
이 논문은 ‘인간에게 해를 끼치 지 않는다’와 같은 규칙은 AI가 만들어 낼 시나리오의 종류를 이해하지 못하면 설정할 수 없으며, 컴퓨터 시스템이 프로그래머의 범위를 초과하는 수준에서 작동하면 더 이상 제한을 설정할 수 없다고 지적했다.
이 논문의 저자는 “슈퍼 인공지능은 ‘로봇 윤리’라는 기치 아래 연구되고 있는 것과는 근본적으로 다른 문제를 제기한다”며 “슈퍼 인공지능은 인간이 이해할 수없는 목표를 달성하기 위해 잠재적으로 다양한 자원을 동원 할 수 있기 때문이다”고 말했다.
독일의 막스 플랑크 인간개발 연구소의 컴퓨터 과학자 Iyad Rahwan은 “실제로 이것은 격리 알고리즘을 사용할 수 없게 만든다”고 말한다.
인공지능에게 윤리를 가르치고 세상을 파괴하지 말라고 말하는 것은 인공지능의 능력을 제한하는 것이며 이는 인터넷 일부나 일부 네트워크를 차단해야 가능하다는 것이다.
새로운 연구는 인공지능의 능력과 범위를 제한하는 아이디어에 대해서도 부정적이다.
인간의 범위를 넘어서는 문제를 해결하는 데 인공지능을 사용하지 않으려면 왜 그걸 만들어야 할까
논문은 인간이 통제할 수없는 인공지능이 언제쯤 나타나게 될 지 알 지 못할 수도 있으며 그것은 인공지능의 연구방향에 대해 몇 가지 심각한 질문을 시작해야한다는 것을 의미한다고 지적했다.
막스플랑크 연구소의 마누엘 세브라이언은 “세계를 제어하는 슈퍼인공지능은 공상 과학 소설처럼 들리지나 인공지능이 어떻게 배웠는지 프로그래머조차 완전히 이해하지 못한 채 중요한 작업을 독립적으로 수행하는 인공지능이 이미 존재한다”고 말했다.
<김치형 기자>
