고려대, 생성형 AI 서버 비용 절감 기술 개발

챗GPT·제미나이와 같은 대규모언어모델(LLM)을 운영할 때 필요한 서버 비용을 크게 낮추면서도 처리 성능은 오히려 높일 수 있는 기술이 개발됐다.(왼쪽부터)고려대 전기전자공학부의 안정섭 교수(교신저자), 황순재 박사과정(제1저자). (사진=고려대)고려대는 안정섭 전기전자공학부 교수 연구팀이 LLM 서비스의 GPU(그래픽처리장치) 활용 효율을 높이고 병목...