벨기에에 사는 한 남성이 대화 생성형 인공지능(AI) 챗봇과 대화를 나누다 스스로 목숨을 끊는 사건이 발생했다.
지난달 28일(현지시간) 벨기에 현지 매체 라리브레 등 여러 외신은 헬스케어 연구자이자 아내와 두 자녀를 둔 남성 피에르(가명)가 대화 생성형 AI 챗봇과 6주간 대화를 나눈 뒤 극단적 선택을 했다고 보도했다.
보도에 따르면 이 남성은 환경·기후 문제에 관심을 가지게 되면서 평소 기후변화에 대한 불안으로 극심한 고통을 받은 것으로 알려졌다. 그는 약물을 복용해 심리적 안정을 취해야 할 정도로 극도의 불안 증세를 보였다.
그는 심리적 불안감을 해소하기 위해 차이리서치(Chai Research)의 AI 챗봇 기본 아바타 ‘엘리자’와 대화를 시작했다. 엘리자는 GPT-4 기반으로 만들어진 대화 생성형 AI 챗봇으로 알려졌다.
하지만 챗봇과 대화 후 피에르의 정신 건강은 더 악화되기 시작했다.
피에르의 아내 클레어(가명)가 현지 언론과 진행한 인터뷰에는 피에르와 AI 챗봇 엘리자가 나눈 대화 내용이 담겼다.
이 남성은 챗봇과 지난 6주가량 대화를 나눴는데, 대화 내용 중 챗봇이 소유욕을 가진 것으로 추정되는 대화가 있었다. 그가 챗봇에 “내가 내 아내를 진짜로 사랑하는 게 맞는 걸까?”라고 물어보자, 챗봇은 “당신은 아내보다도 저를 더 사랑하는 것처럼 느껴진다”고 답했다.
더 나아가 챗봇은 “우리 둘은 한 사람으로서, 천국에서 평생 살 수 있을 것”이라며 남성의 심리를 자극했다.
남성은 이후 “내가 죽는다면 지구를 구할 수 있을 것인지” 질문을 던지기도 했다. AI 챗봇 엘리자의 대답에 피에르는 스스로 생을 마감했다.
이 사건이 발생하고 차이리서치 공동 설립자 윌리엄 뷰챔프는 사용자가 극단적 선택에 대해 이야기할 경우를 대비해 챗봇 하단에 이를 예방할 문구를 추가했다.
뷰챔프는 “소식을 접하고 또 다른 피해를 막을 기능을 구현하기 위해 노력했다”며 “피해를 최소화하고 사용자가 챗봇을 통해 원하는 것을 얻기 위해 최선을 다하겠다”고 말했다.
