최근 프란치스코 교황의 사진이 온라인에서 화제였다. 이미지 속 프란치스코 교황은 브랜드 없는 하얀색 패딩을 입고 있는데, 패딩 위로 십자가 목걸이를 하고 있어 교황의 패션 센스를 칭찬하는 댓글들이 이어졌다.
하지만 해당 이미지는 AI 도구 미드저니를 통해 만들어진 가짜 이미지로 판명됐다.
이 같은 사례가 처음은 아니다. 일론 머스크 테슬라 최고경영자(CEO)와 메리 바라 GM CEO가 손을 잡고 걷고 있는 사진, 도널드 트럼프 전 대통령이 경찰에 체포되는 사진 등 AI가 만든 가짜 뉴스가 온라인에서 무분별하게 확산하고 있다.
미드저니를 활용한 가짜뉴스가 온라인 상에서 퍼져 나가면서 회사 측은 무료 평가판 서비스를 일시적으로 중단했다.
데이비드 홀츠 미드저니 CEO는 CNN에 “곧 개선된 시스템을 선보일 것”이라며 “전문가와 지역 사회로부터 많은 반응과 아이디어를 받고 있다”고 말했다.
AI를 활용한 새로운 프로그램들이 등장하면서 오디오와 영상 뿐만 아니라 현실적인 이미지를 만드는 것이 아주 저렴하고 쉬워졌다고 CNN은 설명했다.
트럼프가 체포됐다?… SNS 확산 가짜 이미지에 ‘깜빡’
CNN은 “이러한 상황은 새로운 온라인 현실을 보여준다”며 “앞으로 이러한 가짜뉴스들이 소셜미디어에 더 자주 나타나게 될 것”이라고 말했다.
대형 정보기술(IT) 회사들과 관련 업계 단체들은 AI를 활용한 콘텐츠 생성되는 과정에서 투명성을 개선하기 위해 노력을 기울이고 있다.
메타, 트위터, 유튜브 등 플랫폼들은 자체적으로 사용자들이 오해할 수 있는 미디어 콘텐츠의 공유를 제한하거나 금지하는 정책을 갖고 있다.
하지만 AI 기술 사용이 늘어나면서 이러한 정책만으로는 가짜뉴스 확산을 막기 어렵다는 지적도 함께 나오고 있다.
이에 AI 개발을 일시적으로 중단하고 사회적 합의에 나서야 한다는 적극적인 목소리도 나온다.
머스크를 비롯해 애플 공동 창업자 스티브 워즈니악 등 기술 산업계 유명 인사들과 과학자들은 AI 기술 개발의 위험성을 경고하면서 6개월 간 일시적으로 개발을 중단하자고 공개적으로 제안했다.
이들은 “인간과 경쟁할 수 있는 지능을 갖춘 AI시스템은 인터넷에 허위 정보를 범람시키고, 일자리 자동화부터 공상과학 영역을 넘어 더 치명적인 미래의 위험에 이르기까지 사회와 인류에 심각한 위험을 초래할 수 있다”고 말했다.
