[단독] 출시 전까지 안정성 검증 불가?…K-AI 사전평가 사례 전무

한국에는 AI모델 출시 전 검증하는 제도·절차가 없는 것으로 확인됐다. 미국에서 주요 AI 기업들이 미공개 모델을 출시하려면 사전에 정부가 시험하는 AI 충돌시험 체계를 거쳐야 하는 것과 대조된다. 6일 과학기술정보통신부에 따르면 AI안전연구소가 지금까지 국내외 출시된 AI모델 42종을 평가했지만 출시 전에 평가한 사례는 전무했다. AI안전연구소는 공격형 사이버 분야를 포함해 국내외 모델을 평가한다. 하지만 기업이 공개 전에 모델 접근권을 제공해 정부가 해킹 능력을 검증하는 사전평가는 아직까지 이뤄진 적이 없다. 미국은 출시 전 평가체계를 구체화하고 있다. 백악관은 지난 4일(현지시간) 오픈AI·구글·앤트로픽·메타 등 주요 AI 기업 실무진과 회의를 열고 고성능 AI 모델의 자율 사이버보안 평가 방안을 논의했다. 회의에서는 국가안보 위험이 큰 폐쇄형 최첨단 모델을 중심으로 기업이 외부에 공개하기 전 정부 평가팀에 최대 30일간 접근권을 제공해 사이버 공격 능력 등을 시험하는 방안이 제시됐다. 메타의 라마(Llama)처럼 가중치를 공개하는 오픈웨이트 모델은 평가 대상에서 제외하는 방향도 논의됐다. 오픈AI·앤트로픽·구글 딥마인드·마이크로소프트·xAI 등 5개사가 미 상무부 산하 AI표준혁신센터(CAISI)의 출시 전 평가에 참여하고 있다....