“AI 메모리 사용 줄여라”… 터보퀀트·리벳 ‘에이전트OS’ 주목

인공지능 에이전트(AI Agents)가 개발·운영·사무 등 실제 서비스에 적용되기 시작하면서, 이를 얼마나 효율적으로 운영할 수 있는지가 새 과제로 떠오르고 있다. AI 모델 성능 경쟁이 심화되는 가운데 AI 에이전트를 대규모로 지속 실행하는 환경에서는 GPU는 물론 메모리까지 포함한 자원 사용량이 비용에 직접적인 영향을 미치기 때문이다.AI 에이전트는 단일 질의응답을 넘어 계획 수립, 도구 호출, 중간 상태 저장 등을 반복 수행한다. 이 과정에서 컨텍스트(context)와 캐시(cache) 데이터가 누적되며 메모리 사용량이 특히