최근 미국 아마존 인공지능(AI) 알렉사가 한 말을 듣고 10살 소녀가 감전될 뻔 했다고 28일(현지시간) 영국 BBC가 보도했다.
소녀가 “뭐 도전해 볼 게 없을까?”라며 질문하자, 알렉사는 “휴대전화 충전기를 벽 콘센트에 반쯤 꽂은 후, 페니(동전) 한 개를 덜 꽂힌 충전기 부분에 갖다 대라”고 대답했다.
다행히 현장에 함께 있던 소녀의 엄마 크리스틴 리브달이 즉각 “알렉사! 안돼!”라고 소리쳐 사고를 막았다.
이에 아마존 측은 해당 오류를 인지하자마자 시정했다고 밝혔다.
알렉사는 웹에서 도전(challenge)을 검색해 찾은 결과인 ‘페니 챌린지’를 소녀에 추천했던 것으로 전해졌다.
전류가 흐르는 소켓에 도체인 금속을 집어넣을 시 감전, 화재 등의 위험이 있다.
잉글랜드 북부 칼라일 소방서 관계자는 지난해 해당 챌린지로 “(사람들이) 손가락, 손, 팔 전체를 잃을 수 있다”라며, 심각한 부상 위험성을 전하기도 했다. 미국 소방 당국도 해당 챌린지를 규탄하고 나섰다.
아마존 측은 성명을 통해 알렉사가 추후에 이번과 같은 위험 행동을 권하지 않도록 업데이트를 진행했다고 발표했다.
그러면서 “우리가 하는 모든 일의 중심에는 고객들의 신뢰가 있으며, 알렉사는 정확하고 적절하며 유용한 정보를 고객들에 제공하기 위해 설계됐다”라고 덧붙였다.
인공지능 기술 발달에 따라 윤리 문제는 지속적으로 대두돼왔다. 지난해 말 한국에서 출시한 인공지능 챗봇 서비스 ‘이루다’ 역시 장애인·성 소수자 혐오 발언 등 윤리 문제에 휘말리며 지난 1월 서비스를 잠정 중단한 바 있다.
빅데이터 기반의 머신러닝이 인공지능에 윤리적 판단 능력을 부여할 수 있을지를 두고 논쟁이 끊이지 않고 있다는 후문이다.
