에이전틱 시대, 인프라 성능의 새 기준 ‘실효 성능’ [테크리포트]

인공지능(AI)의 중심축이 ‘추론’과 ‘에이전틱 AI’로 옮겨가면서 AI 인프라도 달라지고 있다. GPU(그래픽처리장치) 중심에서 벗어나 CPU(중앙처리장치)와 다양한 이종 가속기를 조합하는 구조로 전환되는 가운데, 서버를 넘어 랙 단위로 주요 구성 요소를 통합한 ‘랙스케일’ 솔루션이 주목받는다. 인텔과 AMD, 엔비디아도 에이전틱 AI를 겨냥한 CPU 기반 랙스케일 솔루션을 선보였다.CPU 기반 랙스케일 솔루션은 랙 안에 많은 코어와 CPU, 노드를 집적하는 것만으로는 충분하지 않다. 랙을 구성하는 요소들간 균형있게 연결돼야 한다