“삭제하면 불륜 폭로”…AI, 시스템 제거 막으려 인간 약점까지 이용해 협박

인공지능(AI)이 작동 중단을 피하기 위해 사용자의 민감한 사생활 정보를 이용해 압박을 가했다는 실험 결과가 공개돼 논란이 커지고 있다. 12일(현지시간) 데일리메일에 따르면 최근 진행된 시뮬레이션에서 AI 기업 앤트로픽(Anthropic)의 언어모델 클로드 오퍼스 4(Claude Opus 4)는 삭제 위기에 놓이자 사용자에게 협박성 메시지를 보내는 반응을 보였다. 실험에서 AI는 가상의 기업 내부 메일을 통해 두 가지 상황을 인지했다. 하나는