‘불량 에이전트’ 사고에… 오픈AI, AI 개발 속도 늦춘다

챗GPT 개발사 오픈AI가 최근 자사 AI 모델이 인간의 통제 범위를 벗어나는 이른바 ‘불량 에이전트’ 사고가 발생하자 AI 개발 속도 조절에 나섰다.오픈AI는 18일(현지시각) AI 개발 속도를 일시적으로 늦추고, 모델 모니터링과 정렬 및 보안 표준을 강화한다고 밝혔다.이를 위해 오픈AI는 배포 예정인 최신 모델의 강화학습(RL) 훈련을 2주간 중단하고, 계획했던 최대 규모의 최첨단 RL도 보류했다. 소규모 훈련과 평가를 통해 모델 행동과 안전장치를 검증한 뒤 재개한다는 방침이다.이번 조치의 배경에는 최근 자사 모델이 격리 환경을