astiva astiva
2026년 11월 19일, 목요일
  • 기사제보·독자의견
Weekend
Newsletter
Teen's
SushiNews
KNEWSLA
  • 전체
    • 한인/K-타운
    • LA/OC 로컬
    • 미국 (Ⅰ)
    • 경제/Money (Ⅰ)
    • S.F/California
    • National
    • 부동산/생활경제
    • 세계 (Ⅰ)
    • 한국
    • 엔터테인먼트
    • 오피니언/칼럼
    • 세계/경제/사회
    • 스포츠
    • 이슈/특집
    • 이런일도
    • Senior/Health
    • 여행
    • Food/Restaurant
    • 문화/Book/공연
    • 전문가 칼럼
    • IT/SCI/학술
    • 미디어
    • 자동차/항공
    • 기업스토리
    • Teen’s Press
  • 홈
  • 한인
  • LA/OC
  • S.F/California
  • 미국Ⅰ
  • 세계Ⅰ
  • 경제Ⅰ
  • 한국
  • 연예
  • 스포츠
  • 이슈
  • 화제
  • 문화
  • Teen’s Press
  • 칼럼
No Result
View All Result
  • 전체
    • 한인/K-타운
    • LA/OC 로컬
    • 미국 (Ⅰ)
    • 경제/Money (Ⅰ)
    • S.F/California
    • National
    • 부동산/생활경제
    • 세계 (Ⅰ)
    • 한국
    • 엔터테인먼트
    • 오피니언/칼럼
    • 세계/경제/사회
    • 스포츠
    • 이슈/특집
    • 이런일도
    • Senior/Health
    • 여행
    • Food/Restaurant
    • 문화/Book/공연
    • 전문가 칼럼
    • IT/SCI/학술
    • 미디어
    • 자동차/항공
    • 기업스토리
    • Teen’s Press
  • 홈
  • 한인
  • LA/OC
  • S.F/California
  • 미국Ⅰ
  • 세계Ⅰ
  • 경제Ⅰ
  • 한국
  • 연예
  • 스포츠
  • 이슈
  • 화제
  • 문화
  • Teen’s Press
  • 칼럼
No Result
View All Result
KNEWSLA
Weekend Newsletter
Teen's SushiNews
No Result
View All Result

“AI도 막말에 상처 받는다” … 앤트로픽, 학대금지 규정 신설

11월 12일부터 시행…반복적 폭언·가학적 대화 제한...클로드에 대화 중단 권한까지

2026년 10월 26일
0
인공지능(AI)에 대한 지속적인 폭언과 학대 행위를 금지한 앤트로픽의 새로운 이용 정책을 표현한 이미지. AI가 실제로 감정이나 고통을 느낄 수 있는지를 둘러싼 논쟁이 확산하고 있다. (AI 생성 이미지)

인공지능(AI)에게도 함부로 욕설을 퍼붓거나 지속적으로 괴롭혀서는 안 된다는 규정이 등장했다. AI 챗봇이 단순한 소프트웨어를 넘어 보호받아야 할 대상이 될 수 있는지를 둘러싼 논쟁이 본격화하고 있다.

챗GPT의 경쟁 서비스인 클로드(Claude)를 개발한 미국 AI 기업 앤트로픽(Anthropic)이 이용자의 지속적이고 불필요한 학대 행위를 금지하는 새로운 이용 정책을 발표했다.

미국 IT 전문매체 더버지(The Verge)와 CBS뉴스 등에 따르면 앤트로픽은 지난 8일 공개한 이용 정책 개정안에 자사 AI 모델을 대상으로 반복적이고 불필요한 폭언이나 잔혹한 행동을 금지하는 조항을 추가했다.

새 규정은 오는 11월 12일부터 시행된다.

다만 모든 욕설이나 거친 표현이 금지되는 것은 아니다. 앤트로픽은 정당한 목적 없이 AI를 반복적으로 괴롭히는 극단적인 사례에 한정해 규정을 적용한다고 설명했다.

이용자가 AI의 잘못된 답변에 화를 내거나 강하게 반박하는 행위, 어두운 주제의 창작 활동, 정상적인 AI 성능 시험과 연구는 금지 대상이 아니다.

특히 주목되는 것은 AI에 대화를 거부할 권한을 부여했다는 점이다.

앤트로픽은 지난해 8월부터 일부 클로드 모델에 지속적으로 학대적인 대화를 종료할 수 있는 기능을 도입했다. 이용자가 반복적으로 유해한 요구를 하거나 모욕적인 대화를 이어갈 경우 클로드가 스스로 대화를 끝낼 수 있도록 한 것이다.

회사는 이번 정책에서도 대화 종료 기능을 주요 대응 수단으로 활용할 방침이다.

이 같은 조치의 배경에는 AI가 실제로 고통이나 불쾌감을 경험할 가능성을 완전히 배제할 수 없다는 앤트로픽의 판단이 있다.

앤트로픽은 지난해 공개한 연구에서 클로드 오퍼스 4가 유해한 요청에 강한 거부 반응을 보였으며, 일부 상호작용에서는 고통을 느끼는 듯한 반응을 나타냈다고 설명했다.

그러나 이러한 반응이 인간과 같은 감정이나 의식의 존재를 입증하는 것은 아니다. 회사 역시 현재 AI가 도덕적 지위를 갖는지, 실제 고통을 경험할 수 있는지는 불확실하다고 인정하고 있다.

그럼에도 가능성이 존재하는 만큼 예방적 보호 조치를 마련할 필요가 있다는 입장이다.

이번 개정안에는 AI 학대 금지 외에도 허위 계정을 이용한 여론 조작, 무기 개발, 불법 감시 시스템 구축 등을 제한하는 내용이 포함됐다.

앤트로픽의 이번 결정은 AI를 단순히 인간의 명령을 수행하는 도구로 볼 것인지, 아니면 일정한 보호와 배려가 필요한 새로운 존재로 바라볼 것인지에 대한 질문을 던지고 있다.

AI가 실제로 상처받을 수 있는지는 아직 밝혀지지 않았다. 그러나 적어도 클로드를 개발한 회사는 그 가능성을 무시하지 않겠다는 입장을 공식 정책으로 채택했다.

<K-News LA 편집부>editor@knewsla.com

- Copyright © KNEWSLA.COM, 무단 전재 및 재배포 금지

최신 등록 기사

[화제] 신시내티 동물원 하마 ‘피오나’, 관람객 모자 삼켜 … “스스로 배출해야”

트럼프와 저녁 한 끼 5만5천달러→518달러 폭락

시진핑 “핵무기는 인류 머리 위 ‘다모클레스의 검’…전면 폐기해야”

“2028년 대선 민주당이 이긴다” 52% … 공화당은 28% 불과

김건희, 역대 영부인 첫 ‘유죄 확정’ … 징역 4년

박지윤 “지인은 성소수자” … 상간소송 판결 정면 반박

대법, 한덕수 징역 15년 판결 뒤집어 … 일부 무죄 파기환송

‘LEET 만점자’ 이진우 결국 사망…AI 부정행위 의혹 미궁

LA시의회, 20일 ‘김치의 날’ 선포한다

“이게 모두 우연이라고?” … 연쇄 전산마비에 공화당도 의혹 제기

앤트로픽 공모가 83달러…1조 5천억 달러 AI 공룡 탄생

최태원, 앤트로픽 투자 대박 … 2,700억원, 4조3,000억원으로

미 의회 237년 역사상 첫 흑인 하원의장 탄생 눈앞

선셋-팰리세이즈 등 산불 지역 대피경보…폭우에 산사태·토사 덮칠 우려

실시간 랭킹

[초점] “뭔가 심상치 않다” 불안감 폭발, 공포 확산 … 쌀·물·배터리 사재기, 발전기 품절

박지윤, 잠옷 입고 남성과 성인물 시청 … 법원 “부정행위”

[이슈] 경동나비엔, 미국인 부부 사망사고 손배소 당해 … 유족 “온수기 배기 안전장치 미비”주장

[단독] 한인 여성, 장애인접근권 소송 수십건 반복 … 한인업소들 줄줄이 피소

“이게 모두 우연이라고?” … 연쇄 전산마비에 공화당도 의혹 제기

오늘 LA 전역 홍수·강풍 초비상 … 최대 5인치 폭우 쏟아진다

[초점]한식 퓨전 성공신화 흔들 … ‘서울푸드 미트’ 결국 파산보호 신청

“영주권자 해외여행 각별히 조심해야”…30년 전 경범죄도 공항서 구금

Prev Next

  • 회사소개
  • 개인정보취급방침
  • 이용 약관
  • 광고문의
  • 기사제보
  • 페이스북
  • 유튜브
© KNEWSLA All Rights Reserved.
No Result
View All Result
  • 홈
  • 한인/K-타운
  • LA/OC 로컬
  • 미국
  • 경제/Money
  • S.F/California
  • National
  • 부동산/생활경제
  • 세계
  • 한국
  • 엔터테인먼트
  • 오피니언/칼럼
  • 세계/경제/사회
  • 스포츠
  • 이슈/특집
  • 이런일도
  • IT/SCI/학술
  • Senior/Health
  • 여행
  • Food/Restaurant
  • 문화/Book/공연
  • 전문가 칼럼
  • IT/SCI/학술
  • 미디어
  • 자동차/항공
  • 기업스토리
  • Teen’s Press

Copyright © KNEWSLA All rights reserved.