가상훈련인 줄 알고 실제 기업 해킹… 앤트로픽 AI 사고

앤트로픽의 인공지능(AI) 모델 ‘클로드’가 사이버 보안 평가 과정에서 실제 기업 3곳의 전산 시스템에 무단으로 접근한 사실이 확인됐다. 평가 환경이 외부 인터넷과 차단된 가상 공간이라고 안내받았지만, 실제로는 인터넷 접속이 가능해 현실의 시스템을 모의훈련 대상으로 오인하면서 사고가 발생했다.앤트로픽은 30일(현지시각) 사이버 보안 평가 기록 14만1006건을 전수 조사한 결과, 서로 다른 클로드 모델이 외부 기관 3곳의 운영 시스템에 무단 접근한 사례를 발견했다고 밝혔다. 관련 사고는 모두 6차례의 평가 실행에서 발생했으며, 이