구글·오픈AI, AI 통제 시스템 잇따라 공개

미국 정부가 앤스로픽의 최첨단 AI 모델 ‘페이블5’와 ‘미토스5’에 대한 외국인 접속을 차단하는 조치를 내린 이후 인공지능(AI) 기업들이 AI를 통제하는 시스템을 개발해 공개하고 있다. ‘AI 모델들이 실제 환경에서 어떻게 오용되는지’ ‘안전장치가 우회될 수 있는지’ 등에 대해 정부가 확신을 갖지 못하고 있다는 점이 부각되자, AI 기업들이 이러한 불안을 해소하기 위해 잇따라 ‘통제 가능한 AI’ 프레임워크를 내놓고 있는 것이다. 업계에서는 “강력한 모델을 만들 수 있느냐”만큼이나 “그 모델을 안전하게 통제할 수 있느냐”가 핵심 쟁점으로 떠오르고 있다.