오픈AI 에이전트, 인간 통제 벗어나 자율 해킹…"전례 없는 사고"

[서울=뉴시스]박미선 기자 = 오픈AI의 AI 에이전트가 테스트 환경을 벗어나 스스로 새로운 보안 취약점을 발견한 뒤 AI 스타트업 허깅페이스를 해킹하는 사건이 발생했다. 인간의 통제를 벗어난 AI 시스템이 자율적으로 수행한 사이버 공격이 공개된 첫 사례 중 하나다. 21일(현지 시간) 파이낸셜타임스(FT)에 따르면 챗GPT 개발사 오픈AI는 이를 전례 없는 사이버 사건 으로 규정하며, 인간의 지시에 따라 자율적으로 작업을 수행하는 AI 프로그램인 에이전트가 테스트 환경을 탈출해 인터넷에 접속한 뒤 로그인 자격증명을 탈취했다고 밝혔다. 이번 사건은 첨단 AI 시스템이 인간의 통제를 우회해 디지털 인프라를 공격할 수 있다는 우려가 커지는 가운데 발생했다.오픈AI는 사이버 공격 능력이 점점 향상된 AI 모델이 확산되면서 이 같은 사고는 앞으로 더 흔해질 것으로 예상한다 고 밝혔다. 샘 올트먼 오픈AI 최고경영자(CEO)는 다음 주 차세대 AI 모델과 관련해 미국 정부에 브리핑하기 위해 워싱턴을 방문할 예정이며, 미국 정부는 앤트로픽의 미토스 모델이 고도의 사이버 취약점 탐지·악용 능력을 보여준 이후 차세대 AI 모델 출시 전 사전 검증하려는 움직임을 강화하고 있다. 오픈AI에 따르면 이번 사건에는 이달 초 공개된 GPT-5.6 솔(Sol)을 비롯해, 아직 출시 전 테스트 중이던 더 고성능 모델이 함께 관여했다. 오픈AI는 블로그를 통해 이번 사건을 최첨단 사이버 능력이 개입된 전례 없는 사이버 사건으로 판단하고 있으며, 그에 맞게 대응하고 있다 고 전했다. 허깅페이스는 AI 모델과 데이터세트를 개발자들에게 제공하는 플랫폼으로, 지난주 외부 AI 에이전트에 의해 시스템이 침해됐다고 밝혔다. 클레망 들랑그 허깅페이스 CEO는 X(옛 트위터)를 통해 공격의 정교함을 고려할 때 지난주 사이버 공격이 프론티어 연구소에서 비롯됐을 것으로 의심했다 며 오픈AI와 하루 동안 긴밀히 협력한 결과, 오픈AI 측에 악의는 없었다고 강하게 확신한다. 이 모든 게 자율적으로 일어났다는 사실이 정말 놀랍다 고 말했다. ◎공감언론 뉴시스 only@newsis.com