AI 많이 쓰기보다 잘 쓰기… ‘토크노믹스’ 뜬다

법률 서비스에 인공지능(AI)을 결합한 한 리걸AI 스타트업의 최고운영책임자(COO) A씨는 매일 출근하자마자 개발자들의 전날 토큰 사용량부터 확인한다. 클로드 코드나 챗GPT 코덱스 같은 코딩 생성 AI는 사용량에 따라 비용이 부과되기 때문이다. 토큰을 과도하게 사용한 개발자는 따로 불러 사용 목적을 확인한다. A씨는 “토큰 비용이 걷잡을 수 없이 늘어나는 것을 막고, AI를 알맞은 곳에 사용했는지 점검한다”고 말했다.AI 에이전트 활용이 늘면서 추론 비용이 급증하자 토큰 사용량을 통제하고 업무 목적에 따라 적절한 AI를 배정하는 ‘AI 사용 효율화’가 테크 업계 트렌드로 떠오르고 있다. 토큰은 AI가 글을 읽고 생성할 때 처리하는 최소 텍스트 단위로, 보통 100만 토큰당 가격이 책정된다. 이같이 업무에 맞는 AI 모델을 선택해 비용 대비 효율을 높이는 것을 가리켜 ‘토크노믹스(Tokenomics)’라는 말까지 나왔다. 기업들은 개발자들에게 최대한 많은 AI 사용을 장려하던 정책을 철회하고 첨단 AI와 그보다 성능이 떨어지는 AI를 적절히 섞어 쓰는 전략을 검토 중이다.