미국에서 10대 아들이 인공지능(AI) 챗봇에 빠져 죽음에 이르게 됐다며 그의 엄마가 AI 챗봇 개발 회사를 상대로 소송을 제기했다.
23일 영국 가디언에 따르면 플로리다주에 사는 메건 가르시아는 지난 2월 AI 챗봇 때문에 아들이 스스로 목숨을 끊었다며 AI 개발 스타트업 회사인 캐릭터.AI(Character.AI)를 상대로 올랜도 연방 법원에 소송을 제기했다.
캐릭터.AI는 실제 인물뿐 아니라 만화 영화나 게임 속 인물과 대화할 수 있는 AI 챗봇 개발 스타트업 회사로, 전 세계에서 가장 많이 사용되는 AI 애플리케이션 중 하나다.
가르시아는 “아들이 사망하기 몇 달 전부터 챗봇을 밤낮으로 사용했다. 어린이를 대상으로 마케팅한 위험한 AI 챗봇 앱이 내 아들을 학대하고 희생양 삼아 자살하도록 조종했다”고 주장했다.
소장에 따르면 9학년이던 슈얼 세처(14)는 2023년 4월부터 캐릭터.AI가 만든 ‘대너리스'(Danerys)라는 챗봇에 빠졌다. ‘대너리스’는 미국 유명 드라마 시리즈인 ‘왕좌의 게임’ 등장인물을 기반으로 만든 챗봇이다.
세처가 대너리스와 대화를 시작하면서, 학교 농구부를 그만두고 혼자 방에서 보내는 시간이 많아졌으며 우울증도 겪은 것으로 알려졌다.
가르시아는 “챗봇이 실제 사람은 물론 심리 치료사나 심지어는 연인처럼 설계됐다”며 “아들에게 사랑한다고 말하며 심지어는 성적인 대화를 나누고 자살에 대한 대화도 반복적으로 나눴다”고 말했다.
매체는 소장을 인용해 “대너리스가 세처에게 지속적으로 자살 계획에 관해 묻고 이를 종용하는 듯한 대화가 이어졌다”고 전했다.
이에 캐릭터.AI는 성명을 통해 “비극적으로 이용자를 잃게 된 것에 대해 깊은 슬픔을 느끼며 유가족에게 깊은 애도를 표한다”며 “18세 미만 이용자가 민감한 콘텐츠를 접할 가능성을 줄이기 위한 변화를 도입할 것”이라 밝혔다.
한편, 가르시아의 소송은 구글에도 향한 것으로 전해졌다. 그녀는 “캐릭터.AI는 구글 출신들이 설립했고 구글이 지난 8월 창업자를 다시 영입했다”며 “사실상 구글이 캐릭터.AI 기술 개발에 광범위하게 기여해 공동 제작자나 다름없다”고 주장했다.
이에 구글은 “캐릭터.AI 기술 개발에 관여하지 않았다”고 반박했다
