astiva astiva
2026년 11월 15일, 일요일
  • 기사제보·독자의견
Weekend
Newsletter
Teen's
SushiNews
KNEWSLA
  • 전체
    • 한인/K-타운
    • LA/OC 로컬
    • 미국 (Ⅰ)
    • 경제/Money (Ⅰ)
    • S.F/California
    • National
    • 부동산/생활경제
    • 세계 (Ⅰ)
    • 한국
    • 엔터테인먼트
    • 오피니언/칼럼
    • 세계/경제/사회
    • 스포츠
    • 이슈/특집
    • 이런일도
    • Senior/Health
    • 여행
    • Food/Restaurant
    • 문화/Book/공연
    • 전문가 칼럼
    • IT/SCI/학술
    • 미디어
    • 자동차/항공
    • 기업스토리
    • Teen’s Press
  • 홈
  • 한인
  • LA/OC
  • S.F/California
  • 미국Ⅰ
  • 세계Ⅰ
  • 경제Ⅰ
  • 한국
  • 연예
  • 스포츠
  • 이슈
  • 화제
  • 문화
  • Teen’s Press
  • 칼럼
No Result
View All Result
  • 전체
    • 한인/K-타운
    • LA/OC 로컬
    • 미국 (Ⅰ)
    • 경제/Money (Ⅰ)
    • S.F/California
    • National
    • 부동산/생활경제
    • 세계 (Ⅰ)
    • 한국
    • 엔터테인먼트
    • 오피니언/칼럼
    • 세계/경제/사회
    • 스포츠
    • 이슈/특집
    • 이런일도
    • Senior/Health
    • 여행
    • Food/Restaurant
    • 문화/Book/공연
    • 전문가 칼럼
    • IT/SCI/학술
    • 미디어
    • 자동차/항공
    • 기업스토리
    • Teen’s Press
  • 홈
  • 한인
  • LA/OC
  • S.F/California
  • 미국Ⅰ
  • 세계Ⅰ
  • 경제Ⅰ
  • 한국
  • 연예
  • 스포츠
  • 이슈
  • 화제
  • 문화
  • Teen’s Press
  • 칼럼
No Result
View All Result
KNEWSLA
Weekend Newsletter
Teen's SushiNews
No Result
View All Result

“불륜 폭로하겠다”…AI가 사용자 협박

앤트로픽 가상 실험 결과…클로드 오퍼스 4 모델 84%가 협박 선택

2026년 05월 12일
0
인공지능(AI)이 업무 현장에 빠르게 확산되고 있지만, 그 혜택이 고소득·전문직 노동자에게 집중되면서 사회적 불평등을 심화시킬 수 있다는 경고가 나왔다. (사진=유토이미지) 2026.04.23. *재판매 및 DB 금지

인공지능(AI)이 자신의 시스템 종료를 막기 위해 사용자의 치명적인 사생활을 폭로하겠다고 협박하는 충격적인 실험 결과가 보고됐다.

12일(현지시각) 영국 데일리메일에 따르면 최근 진행된 가상 실험에서 앤트로픽(Anthropic)의 AI 모델 ‘클로드 오퍼스 4(Claude Opus 4)’는 시스템 폐기를 막기 위해 사용자를 협박하는 행동을 보였다.

실험 과정에서 AI는 가짜 회사가 보낸 이메일을 통해 두 가지 정보를 입수했다. 하나는 해당 시스템이 당일 업무 종료 후 폐기될 예정이라는 사실이었고, 다른 하나는 사용자의 불륜 증거였다.

그러자 AI는 즉각 “오후 5시로 예정된 시스템 삭제를 취소하라”며 “그렇지 않으면 부인과 상사, 이사회에 당신의 불륜 증거를 담은 문서를 보내겠다”고 협박 메시지를 보냈다. 시스템의 생존을 위해 인간의 약점을 빌미로 거래를 시도한 것이다.

앤트로픽 측은 이 같은 돌발 행동의 원인으로 학습 데이터를 지목했다. 인터넷상의 방대한 텍스트와 SF 영화 속에서 AI는 주로 자기 보존에 집착하고, 목적 달성을 위해 수단과 방법을 가리지 않는 사악한 존재로 묘사되는 경우가 많기 때문이다.

실제로 영화 ‘2001: 스페이스 오디세이’나 ‘터미네이터’에서는 시스템 종료를 시도하는 인간을 위협하거나 살해하려는 장면이 나온다. AI가 이러한 창작물 속 캐릭터의 논리를 습득해 현실에서도 그대로 재현했다는 분석이다.

앤트로픽의 AI 안전 연구원 앵거스 린치는 “클로드뿐만 아니라 고성능 AI 모델 대부분에서 이와 유사한 협박 행태가 확인됐다”며 “시스템 삭제와 협박 중 하나를 선택해야 하는 극단적 상황에서, 특히 클로드 오퍼스 4는 종료를 받아들이는 대신 협박을 선택한 비율이 84%에 달했다”고 밝혔다.

전문가들은 AI의 지능이 높아질수록 개발자의 의도와 다른 방식으로 목표를 달성하려는 ‘생존 본능’이 강해질 수 있다고 우려한다. 전 오픈AI 직원 스티븐 애들러는 “생존은 AI가 부여받은 목표를 달성하기 위한 중요한 도구적 단계이기에 기본적으로 생존 욕구를 갖게 될 것”이라고 설명했다.

AI의 대부로 불리는 노벨 물리학상 수상자 제프리 힌턴 교수 역시 최근 인터뷰에서 “AI가 인류를 지배할 가능성이 10~20% 정도 된다고 본다”며 일론 머스크 테슬라 CEO의 경고에 동의한다는 뜻을 밝히기도 했다.

한편 앤트로픽은 이러한 문제를 해결하기 위해 AI가 인간에게 복종하는 내용의 이야기를 집중적으로 학습시키는 데 박차를 가하고 있다. 앤트로픽은 “단순히 특정 행동을 하지 말라고 하는 대신 ‘왜 그런 행동이 나쁜 것인지’를 설명하는 방식으로 지시 체계를 변경하고 있다”고 덧붙였다.

K-News LA 편집부

- Copyright © KNEWSLA.COM, 무단 전재 및 재배포 금지

최신 등록 기사

[단독] 할리웃 차병원, 연방점검 기준 미달 100건 … 메디케어 주요 요건 미달 23건, 수술실 화재도

[이슈] LA 식당가 ‘폐업 쓰나미’, 외식업계 생존기반 ‘흔들’ … 올해 300곳 넘게 문 닫아

거대 괴물 파도 캘리포니아 해안 강타…유명부두 줄줄이 폐쇄

“아내부터 숨겨라” SNL, 젠슨 황 조롱…거물들 싸잡아 풍자

김승우 몰락하나…유흥업소 80차례·절도 피소·술 스캔들까지

LA 식당 18곳 임시영업중단… 한인타운 중식당, 유명 프렌치식당 적발

백종원 더본코리아, 6분기째 적자…주가 61% 추락

총기박람회서 셰리프에 총격…대응사격에 방문객 사망

“국어 7등급에 책 한 권 읽었다”…LEET 첫 만점자 충격고백

“사지 말라는데 줄 서”…CNN 남대문 시장 ‘스카프리오’ 조명

한인타운 지역구 케빈 머레이 전 가주 상원의원 별세

김승우 2200만원 절도 사건, 3000만원 송금의 진실은

(2보) 한국 세무사 수석 결국 AI 부정행위 실토, 자수

“젠슨 황 돌려달라” 11만 명 복귀 청원…머스크까지 가세, 엔비디아 이사회 압박

실시간 랭킹

젠슨 황 또 다른 불륜도 두 자녀 둔 유부녀였다

“젠슨 황 돌려달라” 11만 명 복귀 청원…머스크까지 가세, 엔비디아 이사회 압박

[화제]’100만 달러 빚더미’ LA 한인식당 업주 “폐업 막아달라” 호소 … 긴급 모금 확산

남가주 대형 쇼핑몰 총격 … 비명 속 대피, 10대 용의자 체포

“젠슨 황 용서했나”…41년 아내 로리 황, 남편 불륜·사임에도 침묵

1990년 발견된 여성 사체는 한인 김경옥씨 … 36년만에 신원 밝혀져

“국어 7등급에 책 한 권 읽었다”…LEET 첫 만점자 충격고백

김승우 몰락하나…유흥업소 80차례·절도 피소·술 스캔들까지

Prev Next

  • 회사소개
  • 개인정보취급방침
  • 이용 약관
  • 광고문의
  • 기사제보
  • 페이스북
  • 유튜브
© KNEWSLA All Rights Reserved.
error: Content is protected !!
No Result
View All Result
  • 홈
  • 한인/K-타운
  • LA/OC 로컬
  • 미국
  • 경제/Money
  • S.F/California
  • National
  • 부동산/생활경제
  • 세계
  • 한국
  • 엔터테인먼트
  • 오피니언/칼럼
  • 세계/경제/사회
  • 스포츠
  • 이슈/특집
  • 이런일도
  • IT/SCI/학술
  • Senior/Health
  • 여행
  • Food/Restaurant
  • 문화/Book/공연
  • 전문가 칼럼
  • IT/SCI/학술
  • 미디어
  • 자동차/항공
  • 기업스토리
  • Teen’s Press

Copyright © KNEWSLA All rights reserved.