에이전틱 AI 결정하고 사람은 승인만…가트너 “HITL 착각 조짐”

스스로 생각하고 행동하는 인공지능(AI) '에이전틱 AI'가 발전할수록 AI가 결정하고 사람은 형식적 승인만 할 것으로 전망됐다. 그럼에도 사람이 스스로 결정했다고 착각하는 문제가 불거질 것으로 관측됐다. 가트너는 최근 '인간 중심 AI 거버넌스:인간 개입 오류 극복' 보고서를 통해 AI가 확산될수록 실제 결정권은 AI로 이동하고, 인간은 사실상 승인 버튼만 누르는 존재로 전락할 위험이 커진다고 지적했다. 또 이를 인간이 개입하고 있으니 안전하