공공부문 63% 업무 AI 활용하지만…"신뢰도 여전히 낮아"

[서울=뉴시스] 강지은 기자 = 공공 부문에서 인공지능(AI) 기반의 의사결정 시스템 활용이 확대되고 있지만, 신뢰도는 여전히 낮다는 설문조사 결과가 나왔다.16일 한국행정연구원에 따르면 최근 전국 중앙행정기관, 지방자치단체, 공공기관 종사자 중 AI 시스템 담당자와 사용자 198명을 대상으로 설문조사를 실시한 결과 이같이 나타났다.주요 조사 결과를 보면 대상 기관들의 AI 시스템 도입 단계는 시범 운영 이 29.8%(59명)로 가장 많고, 정식 운영 이 28.8%(57명)로 뒤를 이었다. 과반 이상이 적극적으로 AI 시스템을 운영 중인 셈이다.아직 운영하고 있지 않은 기관들의 경우 도입 검토 는 23.7%(48명)였고, 개발 중 은 17.7%(35명)였다.공공부문 AI 시스템의 주된 활용 범위는 내부 업무 지원 이 62.6%(124명)로 가장 많았다. 이어 시민 대상 서비스 27.3%(54명), 정책 의사결정 지원 10.1%(20명) 등의 순이었다.의사결정 방식은 AI가 정보를 추천하고, 사람이 최종 결정하는 방식이 82.3%(163명)로 압도적으로 많았다. AI가 직접 최종 결정을 내리는 방식은 17.7%(35명)에 그쳤다. AI 시스템을 의사결정 지원 역할로 활용하고 있다는 얘기다.이러한 AI 시스템에 대한 신뢰도는 저조했다.AI 시스템 신뢰도 결정요인 8개에 대한 설문을 보면 5점 만점 중 이해 관계자 참여(3.40점)와 인간의 감독(3.37점)은 비교적 높게 평가됐다.반면 투명성(3.23점)과 책임성(3.24점), 이의제기 가능성 및 구제(3.24점)에 대한 평가는 상대적으로 낮은 것으로 나타났다.또 AI 시스템 신뢰도 결정요인 중 가장 미흡하다고 생각하는 요인(복수응답)으로는 기술적 견고성(50명), 데이터 보안(43명), 데이터 관리(41명), 책임성(40명), 피드백(40명) 순으로 많았다.행정연구원은 이는 응답자들이 대체로 즉각적인 AI 시스템 활용과 관련해 직접적으로 체감되는 영역을 보완할 필요성을 느끼고 있음을 보여준다 고 밝혔다.아울러 AI 시스템 신뢰도 확보에 있어 주요 장애 요인으로는 전문 인력 부족(84명), 예산 부족(83명), 데이터 부족 및 품질(74명), 관련 법규 및 가이드라인 모호(70명) 등을 꼽았다.연구원은 공공부문 AI 활용이 국민의 신뢰를 얻기 위해서는 신뢰도와 책임성을 갖춘 관리체계 마련이 필요하다 며 AI 기반 처분에 대한 권리구제 절차를 강화하고, 위험도에 따라 사람이 검토·감독하는 보완책도 마련해야 한다 고 밝혔다. ◎공감언론 뉴시스 kkangzi87@newsis.com