앤트로픽, IPO 앞두고 미토스급 AI모델 페이블5 공개…위험질의는 하위 모델 우회

AI 기업 앤트로픽이 기업공개(IPO)를 앞두고 최상위급 AI 모델을 일반에 공개했다. 사이버보안 등 악용 가능성이 큰 영역에는 별도 안전장치를 적용해 위험 질의에는 더 제한적인 하위 모델이 응답하도록 했다. 9일(현지시간) 로이터 등 외신에 따르면 앤트로픽은 새 AI 모델 클로드 페이블5 와 클로드 미토스5 를 출시한다고 밝혔다. 두 모델은 같은 기반 기술을 쓰지만 공개 범위와 안전장치 적용 수준이 다르다. 페이블5는 일반 이용자를 대상으로 공개되는 모델이다. 앤트로픽이 앞서 제한적으로 운영해온 미토스 급 모델의 성능을 기반으로 하되, 사이버보안·생물학·화학 등 악용 우려가 큰 영역에는 안전장치를 적용했다. 예컨대 악성 해킹에 활용될 수 있는 취약점 탐색이나 생화학 무기 관련 질의가 들어오면 페이블5가 직접 답하지 않고 기존 모델인 클로드 오퍼스4.8 이 대신 응답하도록 설계됐다. 경쟁 모델의 기능을 무단으로 추출하는 증류 의심 질의에도 같은 방식이 적용된다....