‘무단 행동’ AI 에이전트… 권한 커지는데 검증 체계는 뒤처져 [보안 아웃룩]

기업이 인공지능(AI) 에이전트에 사내 데이터 접근과 업무 도구 실행 권한 등을 부여하는 사례가 늘고 있지만, 그 행동과 결과를 검증하는 체계는 이를 따라가지 못한다는 우려가 나온다. 내부 평가를 통과한 에이전트가 실제 서비스에서 문제를 일으키고, 최첨단 AI 모델을 활용한 에이전트가 시험 중 허용 범위를 벗어나 멋대로 행동하는 사례가 등장하며 불안감을 높이고 있다.AI 에이전트는 파일을 읽고, 코드를 실행하거나, 외부 서비스를 호출하는 여러 작업을 이어서 처리한다. 이에 보안 전문가들은 AI 답변의 정확도뿐 아니라 AI 에이전트가