“AI 에이전트 시대 보안 위협도 확대…최소 권한·인간 감독 필수”

인공지능(AI)이 인간의 명령을 단순 수행하는 단계를 넘어 스스로 계획을 수립하고 실행하는 'AI 에이전트' 시대가 열린 가운데, 산·학·연·관 전문가들이 AI 에이전트 안전성과 신뢰성을 확보하기 위한 새로운 위험 완화 원칙이 필요하다고 강조했다. 김명주 AI안전연구소장은 26일 국제인공지능윤리협회(IAAE)가 개최한 '2026 ASC(AI Safery Compass) 컨퍼런스'에서 “AI 에이전트는 사람과 달리 상식선이라는 것이 없기 때문에