▲ (좌) HPCA 2024, Awards session (우) Award Certificate

전기·정보공학부 가속화지능형시스템 연구실(지도교수 이진호)에서 SmartSSD를 활용한 거대언어모델(LLM) 학습 가속화를 위한 방법론을 제시하였다. 거대언어모델의 학습은 커다란 메모리 요구량 때문에 일반적으로 수많은 GPU를 활용하는데, 본 연구는 SSD 내부에서 연산을 수행할 수 있는 SmartSSD를 활용하여 하나의 GPU만으로도 학습을 가능케 하면서도 높은 성능을 달성하는 기법을 제안하였다. 본 연구는 메모리 요구량에 비하여 학습시간이 비교적 짧은 fine-tuning과 같은 상황에서 특히 그 효용성을 인정받아 컴퓨터 아키텍처 분야 최고수준 학술대회인 2024년도 HPCA (International Symposium on High-Performance Computer Architecture, 2024.03.02-2024.03.06, Edinburgh, Scotland)에서 Best Paper Award – Honorable Mention을 수상하였다.

[발표논문]

Smart-Infinity: Fast Large Language Model Training using Near-Storage Processing on a Real System, Hongsun Jang, Jaeyong Song, Jaewon Jung, Jaeyoung Park, Youngsok Kim, and Jinho Lee, HPCA, 2024