미국의 한 커뮤니티 사이트에서 자신의 누드 사진을 유료로 판매하던 여성이 AI를 통해 만들어진 가상 인간으로 드러났다고 11일 워싱턴포스트(WP)가 보도했다.
‘레딧’이라는 커뮤니티 사이트에서 활동하는 누리꾼 ‘클라우디아’는 지난 1월부터 게시판에 자신의 사진을 올려왔다.
그는 비용을 지불하면 자신의 누드 사진을 보내주겠다고 홍보했다. 일부 레딧 이용자들은 호응했지만, 클라우디아는 사실 실존하는 인간이 아니었다. 그는 이미지 생성 AI ‘스테이블 디퓨전’으로 만든 가상 인간이었다. 클라우디아를 만들었다고 밝힌 익명의 학생 두 명은 누드 사진을 팔아 100달러를 벌었다고 현지 언론에 말했다.
최근 몇 주 동안 미드저니와 스테이블 디퓨전 같은 이미지 생성 AI는 창의적인 예술 작품과 유명 인사의 가짜 사진을 만들어 전 세계의 주목을 받았다.
다만 클라우디아의 사례는 이미지 생성 AI가 포르노의 제작과 소비 방식을 바꾸고 있다는 걸 보여준다. WP는 이러한 이미지를 쉽게 만들 수 있는 AI 기술이 여성에 대한 성적 대상화와 착취, 사칭 등을 더욱 심화시킬 수 있다고 우려했다.
실제로 이미지 생성 AI는 짧은 단어 몇 개만 입력하면 무료로 가짜 사진을 만들 수 있다. 결함이 있는 부분을 가리고 화질을 개선하는 등 이미지를 더욱 정교하게 편집하면 그럴듯한 사진이 만들어진다.
영국의 스타트업 스테빌리티 AI는 자사에서 제작한 스테이블 디퓨전으로 ‘외설적이고 음란하다고 생각되는 이미지를 만드는 것’을 금지하고 있다. 하지만 이 프로그램은 누구나 다운로드 받을 수 있도록 공개되어 있어, 음란물을 만드는 데 활용하는 것을 막을 수는 없다.
클라우디아가 가상 인간이라는 것을 알게 된 레딧 이용자 중 일부는 AI와 실제 사람을 구별하기 어렵다는 점을 들어 무섭다는 감정을 드러냈다.
