인공지능(AI)에게도 함부로 욕설을 퍼붓거나 지속적으로 괴롭혀서는 안 된다는 규정이 등장했다. AI 챗봇이 단순한 소프트웨어를 넘어 보호받아야 할 대상이 될 수 있는지를 둘러싼 논쟁이 본격화하고 있다.
챗GPT의 경쟁 서비스인 클로드(Claude)를 개발한 미국 AI 기업 앤트로픽(Anthropic)이 이용자의 지속적이고 불필요한 학대 행위를 금지하는 새로운 이용 정책을 발표했다.
미국 IT 전문매체 더버지(The Verge)와 CBS뉴스 등에 따르면 앤트로픽은 지난 8일 공개한 이용 정책 개정안에 자사 AI 모델을 대상으로 반복적이고 불필요한 폭언이나 잔혹한 행동을 금지하는 조항을 추가했다.
새 규정은 오는 11월 12일부터 시행된다.
다만 모든 욕설이나 거친 표현이 금지되는 것은 아니다. 앤트로픽은 정당한 목적 없이 AI를 반복적으로 괴롭히는 극단적인 사례에 한정해 규정을 적용한다고 설명했다.
이용자가 AI의 잘못된 답변에 화를 내거나 강하게 반박하는 행위, 어두운 주제의 창작 활동, 정상적인 AI 성능 시험과 연구는 금지 대상이 아니다.
특히 주목되는 것은 AI에 대화를 거부할 권한을 부여했다는 점이다.
앤트로픽은 지난해 8월부터 일부 클로드 모델에 지속적으로 학대적인 대화를 종료할 수 있는 기능을 도입했다. 이용자가 반복적으로 유해한 요구를 하거나 모욕적인 대화를 이어갈 경우 클로드가 스스로 대화를 끝낼 수 있도록 한 것이다.
회사는 이번 정책에서도 대화 종료 기능을 주요 대응 수단으로 활용할 방침이다.
이 같은 조치의 배경에는 AI가 실제로 고통이나 불쾌감을 경험할 가능성을 완전히 배제할 수 없다는 앤트로픽의 판단이 있다.
앤트로픽은 지난해 공개한 연구에서 클로드 오퍼스 4가 유해한 요청에 강한 거부 반응을 보였으며, 일부 상호작용에서는 고통을 느끼는 듯한 반응을 나타냈다고 설명했다.
그러나 이러한 반응이 인간과 같은 감정이나 의식의 존재를 입증하는 것은 아니다. 회사 역시 현재 AI가 도덕적 지위를 갖는지, 실제 고통을 경험할 수 있는지는 불확실하다고 인정하고 있다.
그럼에도 가능성이 존재하는 만큼 예방적 보호 조치를 마련할 필요가 있다는 입장이다.
이번 개정안에는 AI 학대 금지 외에도 허위 계정을 이용한 여론 조작, 무기 개발, 불법 감시 시스템 구축 등을 제한하는 내용이 포함됐다.
앤트로픽의 이번 결정은 AI를 단순히 인간의 명령을 수행하는 도구로 볼 것인지, 아니면 일정한 보호와 배려가 필요한 새로운 존재로 바라볼 것인지에 대한 질문을 던지고 있다.
AI가 실제로 상처받을 수 있는지는 아직 밝혀지지 않았다. 그러나 적어도 클로드를 개발한 회사는 그 가능성을 무시하지 않겠다는 입장을 공식 정책으로 채택했다.
<K-News LA 편집부>editor@knewsla.com
