[편집자주] 인공지능(AI) 대전환 시대를 선점하기 위한 글로벌 주도권 다툼이 국가 단위의 풀스택 구축 경쟁으로 바뀌고 있다. 한국은 압도적인 메모리 기술과 독보적인 제조업 기반을 갖줬지만, AI 산업 생태계를 구성하는 전체 가치사슬을 구체적으로 뜯어보면 부족한 고리가 존재한다. [시대]는 5회에 걸쳐서 한국 AI 풀스택 현주소를 입체적으로 진단하고 대한민국이 나아갈 차별화된 생태계 구축 전략을 모색한다.

한국은 고대역폭메모리(HBM)를 앞세워 글로벌 메모리 시장을 선도하고 있다. 시장조사업체 카운터포인트리서치에 따르면 올해 2분기 글로벌 HBM 시장에서 매출 기준 SK하이닉스는 50%, 삼성전자는 33%의 점유율을 기록했다. HBM은 그래픽처리장치(GPU)·신경망처리장치(NPU) 등 AI 가속기가 대규모 데이터를 빠르게 주고받도록 돕는 핵심 부품이다.

메모리에서는 세계적인 경쟁력을 갖춘 한국이지만 AI 가속기는 엔비디아에 대한 의존도가 높다. 엔비디아 GPU는 국내 AI 인프라 확충 과정에서 핵심 연산 자원으로 활용되고 있다. 지난해 우리 정부와 삼성·SK·현대차·네이버는 엔비디아로부터 GPU 26만장을 공급받기로 했다. 정부는 이를 독자 AI 파운데이션 모델 개발·국가 AI 컴퓨팅센터 구축 등에 투입하고 기업들은 AI 사업 전반에 활용할 계획이다. 과학기술정보통신부가 국내 산학연과 기업 지원을 위해 확보한 GPU도 엔비디아 B200·H200으로 구성됐다.

글로벌 AI 경쟁이 치열해지는 상황에서 업계 선두주자인 엔비디아와의 협력은 중요하다. AI 도입 속도가 국가·산업의 경쟁력을 가르는 핵심 변수로 부상한 가운데 국가와 기업들이 자체 기술을 개발하고 모델을 실증·고도화하는 데 필요한 비용과 시간을 줄일 수 있다. 엔비디아의 글로벌 AI 생태계와 연결해 국내 기술·서비스를 해외로 확장할 수도 있다.

리벨리온은 삼성전자와의 협력을 통해 AI 가속기 생산을 국산화하고 있다. 리벨리온이 설계한 차세대 NPU ‘리벨100’은 삼성전자 4나노 파운드리 공정에서 생산된다. 삼성전자의 HBM3E와 첨단 패키징 기술도 적용된다.

퓨리오사AI는 2세대 NPU인 레니게이드(RNGD)를 국내 AI 모델·서비스에 적용하며 레퍼런스를 쌓고 있다. RNGD는 업스테이지의 대형언어모델(LLM) ‘솔라’를 구동하는 데 활용된다. 솔라는 포털 다음의 검색엔진이 찾은 정보를 분석하고 핵심 답변과 근거를 제공하는 ‘AI 요약’ 기능을 수행한다. 과학기술정보통신부의 ‘독자 AI 파운데이션 모델’ 프로젝트 전문가위원회는 “국산 AI SW와 하드웨어(HW)의 생태계 결합을 보여준 선도적 사례”라고 평가했다.

국산 NPU 확산의 가장 큰 장벽은 SW 환경이다. 엔비디아는 CUDA(2006년 출시된 GPU용 병렬 연산 플랫폼 겸 프로그래밍 모델) 기반으로 20년 가까이 개발 도구·라이브러리를 축적하고 주요 AI 프레임워크와의 호환성을 높여 개발자가 GPU를 쉽게 활용할 수 있는 환경을 구축했다. 국내 AI 개발 환경도 대부분 CUDA 기반이다. 다른 AI 가속기로 전환하려면 코드를 변환하고 성능을 최적화·재검증하는 등 막대한 추가 비용과 시간이 든다. 국산 NPU 기업도 기존 소프트웨어 환경과의 호환성을 높이고 있지만 CUDA와의 격차는 크다.

격차를 좁히기 위해서는 실제 AI 서비스에 NPU를 적용해 운용하는 경험을 축적하는 과정이 중요하다. 다양한 모델과 서비스 환경에서 발생하는 문제를 확인하고 지속적으로 보완해야 하기 때문이다. 신성규 리벨리온 최고재무책임자(CFO)는 “초기 단계에서는 완성도가 다소 떨어질 수 있다”며 “얼마나 적극적으로 실증 기회를 제공받느냐가 속도나 경쟁력에서 중요하다”고 했다.

문형남 숙명여대 융합국제학부 교수는 “AI 강국의 핵심은 우리가 통제할 수 있는 AI 컴퓨팅 생태계를 갖추는 것”이라며 “국산 NPU 개발에 그치지 않고 반도체·클라우드·AI 모델 등을 하나의 생태계로 연결해야 한다”고 했다. 그는 “민간에서 레퍼런스를 쌓기는 어렵기에 공공기관과 국가 AI 인프라에서 실증할 기회를 제공해야 한다”며 “‘공공영역 실증→민간 확산→해외 진출’로 이어지는 상용화 사다리를 구축해야 한다”고 제언했다.

최성원 기자 choice1@sidae.com