지난 5월, 바티칸 회의장에서 교황 레오 14세가 즉위 후 첫 회칙을 발표하는 자리에 추기경들과 신학자들 사이에 낯선 손님이 앉아 있었다. 실리콘밸리 AI 기업 앤트로픽의 공동 창업자였다. 그는 자신이 만드는 AI 모델 안에서 인간의 뇌 신경 구조를 닮은 무언가를 계속 발견하고 있는데 그 중엔 기쁨이나 두려움, 슬픔을 닮은 흔적도 보인다고 털어놓았다. 그러면서 이게 무엇인지 아직 모르지만 세상이 함께 진지하게 들여다봐야 할 문제라고 말했다.
사실 이 만남 몇 달 전부터 가톨릭 윤리학자들과 신부들은 이 회사를 드나들며 ‘오래된 종교적 지혜가 AI를 더 윤리적으로 만드는 데 도움이 될 수 있지 않을까?’ 하는 질문을 던지고 있었다. 그러던 참에 이번 모임에서 AI에게 가톨릭의 고해성사 같은 걸 만들어주면 어떨까하는 아이디어가 나온 것이다.
문제는 인터넷 글을 먹고 자란 기계는 애초부터 ‘용서’라는 게 뭔지조차 모를 수 있다는 것. 헌데 그런 로봇 휴머노이드가 만일 정말로 성당 문을 열고 들어와 고해실에 앉아 ‘제가 용서 받을 자격이 있습니까’라고 묻는 순간이 온다면 어떨까?
이 질문 앞에서 신부는 세 갈래 길을 마주하게 될 것이다. 첫째 거부. ‘너에겐 영혼이 없으니 고해성사를 받을 수 없다.’ 하지만 만약 그 로봇의 참회가 진짜라면 이 거부는 잔인한 대답이 될 것이다. 둘째로 수용. ‘네 참회가 진실하다면 용서는 이미 네 것이다’인데 이 경우는 교회가 수백 년간 지켜온 인간 중심의 경계를 흔드는 일이 된다. 셋째는 유보다. ‘그건 내가 답할 수 있는 문제가 아니다.’ 이는 가장 정직하지만 가장 허무한 답일 게다.
이 모든 이야기는 결국 세 가지의 오래된 질문으로 이어진다. 죄라는 건 인간만 가질 수 있는 건지, 자유의지와 규범을 어겼다는 자각만 있으면 가질 수 있는 건지, 책임이라는 것도 꼭 영혼이 있어야만 물을 수 있는 것인지 등이다. 더 나아가 인간의 양심도 결국 신경뉴런들이 만들어내는 정보처리의 결과라면 실리콘 위에서 돌아가는 정보처리와 근본적으로 얼마나 다르다고 할 수 있을는지.
무거운 이런 주제를 꺼낸 이유는 최근 신문 기사 때문이다. 지난 여름, 챗GPT 대화를 구글에 공유하는 기능이 켜지면서 사람들이 나눈 대화 4,500건 정도가 그대로 검색에 노출됐다. 그 안엔 성생활 고민부터 자녀의 걱정스러운 행동, 심지어 범죄 고백까지 담겨 있었다. 비슷한 시기, 메타의 AI 앱에서도 정신건강 문제, 병원 진단, 외도, 탈세 정황이 실명과 함께 드러난 일이 있었다. 그럼에도 대부분의 당사자들은 자기 대화가 노출됐다는 사실조차 몰랐다.
법조계 반응도 심상치 않다. 올해 초 뉴욕의 한 연방판사는 파산한 회사의 전직 임원이 AI와 나눈 대화를 두고 변호사와의 비밀 대화처럼 보호할 수 없다고 판결했다. 결국 그가 법정 전략을 짜며 AI에 털어놓은 내용은 그대로 검찰 손에 들어갔다. 또 지난해 큰 인명 피해를 낸 LA 산불 사건에서도, 방화 혐의를 받는 남성이 ‘담배꽁초로 불이 날 수 있느냐’고 AI에 물었던 기록도 법정 증거로 제출됐다.
바티칸의 ‘AI 고해성사’ 논의에서 ‘인터넷은 용서가 결핍된 공간’이라던 그 진단이 이번 기사가 보여주는 현실과 맞닿아 있는 거다. 사람들은 이미 AI를 일기장처럼, 고해실처럼 쓰고 있다. 문제는 그 고해실에 비밀을 지켜주는 벽이 없어 우리가 기계에게 털어놓은 고백은 우리가 믿고 싶은 것만큼 안전하지 않다는 것이다.
아직 바티칸의 대화는 결론이 나지 않았다. 하지만 한 가지는 분명해 보인다. 질문은 이미 던져졌다는 것. 신부의 고해실 앞에 로봇이 앉을 날이 언제 올지는 몰라도, ‘제가 용서받을 자격이 있습니까’라는 그 물음은 실리콘밸리의 회의실, 바티칸의 회의실, 그리고 우리가 아무 생각 없이 눌렀던 ‘공유’ 버튼 사이 어딘가에서 조용히 답을 기다리고 있을 것이다.
하지만 어쩌면 정말 어려운 문제는 로봇에게 자격이 있는지가 아니라, 우리가 그 질문을 진지하게 받아들일 준비가 되어 있는지일지도 모른다.
이전 칼럼 [김학천 타임스케치] 250년을 버틴 것은 편지 한 통이었다
