"의료 AI 믿어도 될까"…최신 모델서 드러난 치명적 한계

[서울=뉴시스]박지혁 기자, 이송이 인턴기자 = 의료 인공지능(AI)이 의사의 진료를 돕는 핵심 기술로 자리 잡고 있는 가운데, 최신 연구에서 주요 AI 모델들의 공통적인 한계도 드러났다. 잘못된 정보를 생성하는 환각 보다 중요한 의료 정보를 빠뜨리는 누락 오류 가 더 큰 위험 요소로 나타났다.최근 미국 경제 매체 포춘은 스탠퍼드대, 하버드대, 아라이즈(ARISE) 연구진이 개발한 의료 AI 안전성 평가 기준 노하름(NOHARM) 의 연구 결과를 보도했다.이번 연구는 1100건의 실제 임상 사례를 바탕으로 1만3000건 이상의 의사 평가를 거쳐 진행됐다. 평가 대상에는 올해 1월 120억 달러(약 17조 2000억 원)의 기업 가치를 인정받은 의료 AI 스타트업 오픈에비던스(OpenEvidence) 를 비롯해 독시미티(Doximity)의 독시미티 애스크(Doximity Ask) , 오픈AI의 GPT-5.6 Sol , 앤트로픽의 클로드 페이블 5(Claude Fable 5) 등 최신 AI 모델들이 대거 포함됐다.연구 결과, 가장 높은 점수를 받은 모델조차 의료 오류 가능성을 완전히 제거하지 못한 것으로 나타났다. 특히 전체 유해 오류 가운데 76.6%는 AI가 틀린 정보를 만들어내는 환각이 아니라, 진료 과정에서 고려해야 할 중요한 정보를 빠뜨리는 누락 오류에서 발생했다.이는 AI가 사실과 다른 답변을 내놓는 문제뿐 아니라, 중요한 위험 신호나 고려해야 할 정보를 놓치는 상황 역시 의료 현장에서 큰 문제가 될 수 있다는 의미다.독시미티의 의료 검증 프로그램 피어체크(PeerCheck) 공동 의장을 맡고 있는 에릭 토폴 박사는 누락으로 인한 오류는 0에 가깝게 줄여야 한다 며 최신 AI 모델이 빠르게 발전하고 있지만, 실제 의료 현장에 완전히 준비됐다는 착각을 경계해야 한다 고 지적했다. 다만, 노하름 연구진은 AI 도구를 활용하는 의사가 AI를 사용하지 않는 의사보다 더 나은 진료를 제공할 가능성이 있다는 점도 함께 밝혔다.이번 연구 결과는 의료 AI 규제를 둘러싼 논의에도 영향을 미칠 전망이다. 미국 식품의약국(FDA)은 최근 의사가 AI의 판단 과정을 독자적으로 검증할 수 있는 경우 의료 AI 활용 범위를 넓히는 방향으로 입장을 조정했다. 반면 일부 주 정부는 AI가 제시한 결정을 환자에게 적용하기 전 반드시 의사의 최종 승인을 거치도록 하는 법안을 연이어 통과시키고 있다.전문가들은 법적 책임 소재 역시 명확하지 않은 상태라고 지적한다. AI 모델의 제안이 잘못돼 의료 사고가 발생했을 때 의사, 병원, AI 개발사 중 누구에게 책임을 물어야 하는지 법원의 논쟁이 이어지고 있기 때문이다. ◎공감언론 뉴시스 fgl75@newsis.com