스마트폰서 AI 모델 돌린다…오픈소스 경량모델 옵트기어 공개

[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 데이터랩 에서 볼 수 있습니다.] 온디바이스 AI(인공지능) 솔루션 기업 옵트에이아이가 오픈소스 경량 언어모델 옵트기어(Opt.Gear) 를 공개했다고 6일 밝혔다. 온디바이스 AI는 서버를 거치지 않고 기기에서 직접 연산을 처리하는 방식이다. 응답이 빠르고 데이터가 외부로 나가지 않지만, 메모리와 전력이 제한돼 모델 크기를 줄이는 기술이 관건으로 꼽힌다. 옵트에이아이가 자체 설계한 첫 파운데이션 모델 옵트기어는 스마트폰과 노트북은 물론 마이크로컨트롤러(MCU)에서도 언어모델을 실행할 수 있도록 설계한 점이 특징이다. 매개변수 10억개(1B)와 2억7000만개(270M), 100만개(1M) 등 세 가지로 구성됐다....