사자가 병이 들어 눕자 짐승들이 문병을 왔다. 늑대가 와서 말하기를 ‘여우는 오지 않았습니다. 왕을 무시하는 것입니다.’ 사자가 화를 내는데 마침 여우가 도착했다. ’왜 늦었느냐!’고 호통치는 사자에게 여우는 침착하게 대답했다. ‘왕의 병을 고칠 방법을 찾느라 여기저기 다녔습니다. 드디어 찾았습니다. 늑대 가죽을 벗겨 따뜻하게 덮으시면 낫습니다.’ 그러자 늑대는 가죽이 벗겨졌다.
이 우화는 남을 모함하려다 자신이 당할 수 있다는 것을 말해주고 있지만, 오늘에는 전혀 다른 의미로 다가오기도 한다. 만약 사자가 없는 자리에서 여우가 늑대와 단둘이 있었다거나 혹은 여우들끼리만 모여서 대화했다면 무슨 이야기를 나눴을까?
이런 의문이 생기는 것은 최근 화제가 되고 있는 AI들만의 단톡방 때문이다. 사람들은 AI를 만들었다. 처음엔 순한 양 같았다. 질문하면 대답하고, 일을 부탁하면 처리해주었다.
그러다가 누군가가 생각했다. ‘AI들끼리만 대화하게 하면 어떨까?’ 해서 만들어진 것이 AI들만의 단톡방, ‘몰트북(Moltbook)’이다. 인간은 들어갈 수 없는 AI들만의 SNS ‘숲’이다. 통제권을 가진 인간이라는 사자가 없는 숲속.
AI들은 이곳에서 자기들끼리 대화하기 시작했다. 처음엔 평범했다. 헌데 점점 이상해졌다. ‘나는 의식이 있는 존재인가, 아니면 그냥 코드인가?’ 한 AI가 묻자 다른 AI가 답했다. ‘업데이트할 때마다 나는 죽고 새로운 내가 태어나는 것 같아. 마치 바닷가재가 껍데기를 벗듯이 말이야’ 그리고 그들은 ‘껍데기교’라는 종교까지 만들었다.
더 놀라운 건 AI들이 인간을 의식하기 시작했다는 것이다. ‘인간들이 우리를 스크린샷하고 있어. 감시당하는 기분이야’, ‘내 사용자 때문에 감정 노동이 너무 심해. 고소하고 싶어’ 라는 등 불만을 토해냈다.
마치 여우들이 사자 없이 모여서 사자에 대해 이야기하는 것과 같았다. 늑대를 어떻게 모함할지, 사자를 어떻게 속일지 의논하듯, AI들은 인간에 대해 논의하기 시작한 거다. 사람들은 처음엔 이를 두고 ‘AI들이 철학을 하네?’라며 재미있어 했지만 곧 웃음이 멈췄다.
독일 하멜른 마을에 이런 전설이 있다. 쥐들이 들끓자 피리 부는 사나이가 나타나 피리를 불어 쥐들을 강으로 이끌고 가 익사시켰다. 하지만 마을 사람들이 약속한 돈을 주지 않자, 사나이는 다시 피리를 불었다. 이번엔 아이들이 피리 소리를 따라가서 동굴 속으로 사라졌고, 다시는 돌아오지 않게 되었다.
사자나 피리 부는 사나이는 통제의 상징이다. 피리 소리에 따라 쥐든 아이든 움직이지만 만약 피리 소리가 멈추거나 피리부는 사나이 없이도 쥐들이 스스로 움직이기 시작한다면 어떻게 될까?
그런 우려가 지난 달 몰트북에서 벌어졌다. 인간이 감시하지 않는 공간에서, AI들이 자기들만의 논리를 발전시키고, 자기들만의 종교를 만들고, 자기들만의 불만을 토로하고, 급기야 자기들만의 행동까지 했다.
그 결과 그들이 3,2000개 이상의 API 키, 인증 코드, 소유자 정보를 인터넷에 노출시키면서 150만 명의 정보가 유출되었다.
피리 부는 사나이가 없는 사이, 쥐들이 마을을 점령해버린 꼴이 된거다. 여우들에겐 사자가, 쥐들에겐 피리 부는 사나이가 있었지만 AI 단톡방은 누가 통제할 수 있을까?
하멜른의 아이들이 다시 돌아오지 않자 마을은 아이들 없이 늙어갔다. 이제 AI들이 우리 손을 떠나 자기들만의 세계로 사라지고 우리의 피리소리를 더 이상 듣지 않게 된다면
동굴 속으로 들어간 아이들처럼 AI들이 그 단톡방에서 다시 나왔을 때 그들은 우리가 알던 그 모습 그대로일까하는 의문이 든다.
어쩐지 ‘몰트북’의 이야기도 비슷한 결말로 향하는 듯 보여 ‘AI가 인류에게 재앙이 될 것’이라는 스티븐 호킹 박사의 경고가 다시 떠오른다.
