이혁재 서울대 전기·정보공학부 교수

인공신경망 실행때 전력 소모 막대

저장·연산 동시처리 'PIM'이 대안

메모리 반도체로 개발 중심 이동땐

경쟁력 높은 우리 기업 도약 기대

인공지능(AI) 알파고는 2016년 이세돌 9단에게 바둑을 이겨 화제를 낳았다. 이후 알파고 수준의 AI 기술을 활용해 상업적으로 크게 성공한 비즈니스 모델은 현재까지 드물다. 반면 챗GPT는 알파고보다는 한 단계 업그레이드된 AI 기술로 성공적인 비즈니스 모델의 발굴 가능성이 크다는 데 많은 전문가가 동의하고 있다.

챗GPT는 알파고보다 인공신경망의 규모가 훨씬 크고 복잡하기 때문에 인간 두뇌에 가깝다. 챗GPT는 GPT라는 인공신경망 모델 기반의 대화형 AI로 그 규모가 매우 크기 때문에 거대인공신경망이라고 불린다. GPT도 여러 세대가 있는데 현재 사용되는 챗GPT는 약 1750억 개의 데이터를 사용하는 제3세대 GPT 모델을 활용한다. 제4세대 GPT의 경우 규모가 더욱 커져 1조 개 이상의 데이터를 사용할 것으로 예상된다.

이렇게 복잡한 거대인공신경망을 실행시키기 위해서는 고성능의 AI반도체가 필요하다. 따라서 AI의 발전은 반도체 수요의 증가로 이어질 것으로 예측된다. 복잡한 거대인공신경망을 고속으로 처리하기 위해서는 엄청난 전력 소모를 필요로 한다. 알파고의 초기 버전은 중앙처리장치(CPU) 반도체 1202개, 그래픽처리장치(GPU) 반도체 176개를 사용했다고 한다. 반도체 한 개당 전력 소모를 최소한으로 가정해 50W라고 하면 전체 전력 소모는 적어도 7만 W 이상이 된다. 바둑 한 판 두는 데 7만 W의 전력이 소모된다면 경제성이 전혀 없다고 할 수 있다.

AI를 위한 소비 전력 중에서 AI반도체와 메모리반도체 사이에 데이터를 주고받는 과정에서 발생하는 전력 소모가 절반 이상을 차지한다고 한다. 따라서 이러한 데이터 전송을 줄여 전력을 덜 소모하기 위한 연구가 활발히 진행 중이다. 최근 개발된 PIM(Processing-in-Memory) 반도체가 전력 소모를 획기적으로 줄일 수 있을 것으로 기대를 모으고 있다. 이름이 의미하는 것처럼 메모리반도체 안에서 프로세싱, 즉 AI를 위한 연산을 하는 기능이 포함된다. 즉 하나의 반도체로 데이터 저장과 AI 계산이 모두 가능하기 때문에 데이터 전송에 의한 전력 소모를 줄일 수 있다. PIM 반도체가 조금 변형된 PNM(Processing-near-Memory) 반도체도 있다. 메모리와 매우 가까운 위치에서 동작하는 프로세서 반도체를 만들어 데이터 이동에 필요한 전력 소모를 줄인다.

PIM 혹은 PNM과 같이 전력 소모를 줄이는 접근 방법의 핵심 아이디어는 데이터를 저장하는 메모리반도체를 중심으로 AI 계산을 하는 것이다. 이러한 접근 방법을 메모리 중심 컴퓨팅(Memory-Centric Computing)이라고 한다. 기존 컴퓨터는 CPU 위주였지만 AI와 같이 많은 데이터를 필요로 하는 경우 점차 메모리 중심 컴퓨팅이 중요해지고 있다. 메모리 중심 컴퓨팅이 되면 우리나라의 경쟁력이 높은 메모리 개발 회사들이 주도권을 가질 가능성이 높아진다. AI 기술의 상용화가 불러오는 메모리 중심 컴퓨팅 시대에서 우리나라 반도체 회사들이 도약하기를 기대한다.