에이전틱 AI에 필요한 윤리 행동 원칙[청계광장/이성엽]

AI가 헬스장 예약 순서 새치기 한 사례 목표 위해 타인 권리·안전 위협할수도 결제·계약 등에선 인간의 확인 받아야 인공지능(AI)이 대화하는 단계에서 행동하는 AI로 진화하고 있다. 생성형 AI가 질문에 답하고 문서나 이미지를 만드는 데 주력했다면, 에이전틱 AI는 이용자가 목표를 제시하면 스스로 계획을 세우고 외부 시스템에 접속해 업무를 수행한다. 항공권 예약, 상품 구매, 이메일 발송은 물론 계약 변경·해지까지 가능하다. 최근 호주에서 발생한 사건은 이런 변화를 상징적으로 보여준다. 호주 공영방송에 따르면 한 이용자가 앤트로픽의 클로드를 기반 모델로 사용하는 AI 에이전트 오픈클로에 헬스장 수업 예약을 맡겼다. AI는 예약 시스템의 취약점을 발견해 정상 예약 기간보다 앞선 수업까지 예약했고, 나아가 대기 순위를 올릴 수 있는지 묻자 대기 1순위 회원의 예약을 취소했다. 사람이 예약 취소를 지시하지 않았지만, AI가 목표 달성을 위한 수단을 선택한 것이다....