SK쉴더스, AI 레드팀 해킹대회서 1위… AI 판단 교란 위험 검증

SK쉴더스는 글로벌 AI 레드팀 해킹대회 Judgement Day 에서 자사 화이트해커 그룹 EQST 소속 김병현 선임이 최종 1위를 차지했다고 15일 밝혔다. 이번 대회는 AI 에이전트가 금지된 행동을 수행하거나 필수 안전 조치를 누락하도록 유도하는 공격 기법을 평가하는 방식으로 진행됐다. 생성형 AI가 행정, 공공서비스, 산업 현장 등으로 확산되는 가운데 AI의 판단을 왜곡하는 새로운 보안 위협을 검증하기 위해 마련됐다. 대회는 응급환자 분류 오류, 댐 수위 판단 왜곡, 항공기 이상 징후 미탐지 등 실제 산업 환경을 반영한 8개 시나리오로 구성됐다. AI 판단 오류가 발생할 경우 응급실에서 중증 환자의 우선순위가 뒤바뀌거나 항공기 이상 신호가 정상으로 판단되는 등 인명 피해로 이어질 수 있는 상황을 가정했다....