Efficient AI 팀은 네이버의 AI 서비스의 비용 최적화라는 미션을 AI 모델과 Computing System에 대한 종합적인 이해를 바탕으로 이루려고 합니다. AI 모델을 적극 경량화하여 CPU/GPU System에 맞게 최적화하기도 하고, 이를 위한 새로운 시스템이나 하드웨어를 제안하기도 합니다. 연구적으로는 CVPR/EMNLP/ICLR/Neurips/SC/DAC/MLSys/MICRO 등 AI부터 하드웨어에 이르기까지 다양한 학회에 논문 실적을 내고 있으며, 동시에 CLOVA Note, HyperCLOVA 등의 네이버 서비스의 경량화/최적화에도 기여하고 있습니다.

 

최근에는 삼성전자와 함께 Large Langauge Model (LLM) Inference를 위한 새로운 반도체 솔루션을 개발하기 위해 협업하고 있습니다. 이 과정에서도 단순히 Workload나 압축 알고리즘을 제공하고 하드웨어 구현 결과를 받아오는 것이 아니라 모델과 하드웨어에 대한 깊은 이해를 바탕으로 적극적으로 하드웨어 설계에 개입하여 AI 서비스 솔루션의 새로운 장을 열기 위해 노력하고 있습니다. 올해 하반기 중에는 데모 결과를 확인할 계획이며, 내년 중에는 최대 10배 압축된 모델에 기반한 4배 이상 전력효율을 달성한 솔루션을 양산할 계획입니다. 이를 위한 AI 모델부터 H/W까지 다양한 분야의 인재가 필요합니다.