메모리와 연산 분리·이동 방식 아닌, 동시 병렬 연산 ‘초저전력, 고효율’
차세대 컴퓨팅·반도체 기술로 주목…과기부도 ‘K-클라우드’ 프로젝트 '국책사업'
[중소기업투데이 조민혁 기자] 지난 12일 과학기술정보통신부가 이른바 ‘K-클라우드’ 라는 프로젝트를 내걸고 “세계 최고 수준의 초고속·저전력 국산 인공지능(AI)반도체를 개발, 이를 데이터센터에 적용하고, 인공지능 및 인터넷 기반 자원 공유 서비스를 제공할 것”임을 발표하면서 새삼 차세대 AI반도체와 그 기반이 되는 PIM(Processing-In-Memory) 컴퓨팅 기술에 대한 관심이 높아지고 있다.
과기정통부는 이날 장문의 보도자료를 통해 우선 상용화 초기 단계인 국산 NPU(Neural Processing Unit)를 지속적으로 고도화(추론→학습)하고 데이터센터에 적용할 것이라고 밝혔다. NPU는 기저학습을 비롯해 AI알고리즘 구출을 위해 최적화된 고성능·저전력 프로세서다. 과기부는 또 “2단계로 D램 기반 상용 핌(PIM)과 국산 NPU를 접합(패키징)하여 세계적 수준의 연산 성능을 저전력으로 구현할 것”이라며 “그런 다음 비휘발성 메모리(Non-Volatile Memory)를 활용, 고속 연산을 위한 아날로그 MAC를 기반으로 NPU와 PIM을 개발해 극저전력화를 달성한다”고 밝혔다.
이는 NVM 기반 PIM에 의한 고성능 AI반도체를 개발한다는 단계적 전략이다. 이때 기반이 되는 MAC(Multiply Accumulate)는 인공지능 추론과 학습과정에서 필요한 고속의 곱셈 누적 연산 계산기다. 이는 인간의 두뇌와 같이 전력이 적게 들면서 병렬처리가 가능한 PIM 컴퓨팅의 중요성을 새삼 인식한 결과로 해석된다. 물론 첨단의 창의성과 투자가 필요한 이 부문에 대해 과연 이같은 관변의 정책 드라이브가 얼마나 효과가 있을지는 두고 볼 일이라는게 전문가들의 견해다.
그럼에도 기존 연산과 메모리의 데이터 이동 방식의 컴퓨팅의 대안으로 PIM은 향후 디지털 시대의 컴퓨팅과 반도체 산업의 고도화를 위한 필수불가결한 기술로 강조되고 있다. 이는 날로 늘어나는 방대한 데이터 처리 등에서 한계가 있는 기존 컴퓨팅 기술의 한계를 극복한 것이다.
이미 한국전자통신연구원, 국립전파연구원, 정보통신산업진흥원 등과 같은 연구기관들은 물론, 삼성전자와 SK하이닉스 등 민간기업들도 PIM 반도체 기술에 대한 연구가 활발히 진행되고 있다. “그 결과에 따라선 세계 반도체 시장의 패러다임을 바꿀 기회로 평가된다”는게 한국전자통신연구원의 설명이다.
PIM 반도체는 PIM 컴퓨팅을 위한 메모리 중심의 반도체 기술이다. 이는 이른바 폰노이만 아키텍처 구조의 메모리 이동 방식의 단점을 극복한 것이다. 날로 데이터가 폭주하면서 기계학습이나 AI와 같은 새로운 응용 프로그램은 신경망에서 병렬 데이터를 처리하기 위한 저전력 하드웨어 가속기를 필요로 하고 있다. 그러나 기존 폰노이만 아키텍처는 이같은 다중 및 누계(MAC) 연산을 처리하기에는 역부족이라는 지적이다.
전자통신연구원은 최근 연구보고서를 통해 “폰노이만 아키텍처에서는 연산부와 메모리가 분리된 구조로써 다중 및 누산 연산을 실행하기 위해서는 많은 양의 데이터가 연결 채널을 통해 전송되어야 한다”며 “이처럼 매우 빈번한 데이터 통신이 매우 높은 전력을 소비하는 문제점이 있다. 이는 에너지 효율적인 엣지 컴퓨팅 시스템에서는 큰 문제점으로 대두되고 있다.”고 지적했다. 이에 PIM 아키텍처가 이러한 문제점을 해결하기 위해 병목현상을 극복하는 대안으로 떠오르고 있다.
PIM 아키텍처에선 각 처리 요소에 컴퓨팅 회로와 메모리가 있어 외부 메모리와의 데이터 전송 빈도를 줄인다. 전력 소모가 많은 데이터 전송이 최소화되기 때문에 PIM 아키텍처는 에너지 효율성을 몇 배나 향상할 수 있다. 무엇보다 PIM 기반의 솔루션은 전송 과정에서 발생하는 지연시간과 전력 손실을 줄일 수 있다. 기존 폰 노이만 아키텍처는 메모리가 명령어와 연산자를 저장하고 프로세서는 메모리에서 명령어와 연산자를 가져와 연산을 수행한다. 그 만큼 번거롭고 비효율적이다. 이에 PIM은 바로 메모리에서 연산을 수행한다. 신경망과 딥러닝에 의한 최적의 솔루션으로 프로세서와 메모리를 집적한 신개념 반도체 기술인 셈이다.
이를 통해 딥러닝에 최적화된 AI 반도체는 PIM 구조를 통해 반도체 성능과 전력 효율을 크게 향상시켜 저전력으로 고속의 데이터처리와 프로세스가 가능하다는게 이들 전문가들의 진단이다. 전자통신연구원은 “데이터를 보다 효율적으로 처리할 수 있고, 실시간으로 대용량 데이터를 처리하거나 데이터를 출력해야 하는 AI, 데이터센터, 고성능 컴퓨팅 등에는 PIM 기술이 적용됨으로써 지금까지의 문제점이 극복될 것”이라고 기대했다.
SK하이닉스나, 삼성전자가 PIM 기술 개발과 투자에 박차를 가하고 있는 것도 그 때문이다. 특히 AI반도체를 중심으로 반도체 산업이 재편되면서, 저전력과 메모리 대역폭 문제를 획기적으로 개선할 대안으로 인식하고 있다. 이번에 과기부가 “오는 2030년까지 국내 데이터센터 시장의 국산 AI반도체 점유율을 80%까지 확대하고, 국내 AI반도체 기술 수준을 세계 최고 수준으로 향상시킬 것”이라고 계획을 세운 것도 그런 긴박한 상황을 고려한 때문이다.
특히 과기부를 비롯한 정부 관련 부처들은 “단계별로 국산 AI반도체를 데이터센터에 적용히고, AI 및 인터넷 기반의 자원공유 시스템을 구축할 것”이라며 본격적인 PIM 컴퓨팅 기반의 반도체 지각 변동을 예고하고 있다. 이를 위해 “내년부터 시작되는 1단계 실증사업으로는 국산 NPU 데이터센터를 구축하고, 기존 AI 및 인터넷 기반 자원공유 시스템과 연계할 것”이라며 “오는 2025년까지 약 1천500억원의 투자를 할 것”이라고 밝히기도 했다.