1993년 설립된 그래픽카드 칩셋 B2B(기업 간 거래) 회사가 30년 만에 세계 IT 시장을 쥐락펴락하는 반도체 회사로 거듭났다. 글로벌 AI 산업을 주도하고 있는 엔비디아 이야기다. 엔비디아를 설립한 젠슨 황 최고경영자(CEO)는 “생성형 AI 알고리즘 분야에 ‘티핑 포인트(튀어 오르는 시점)’가 왔다”고 선언했다.

엔비디아는 명실공히 AI 반도체 산업 절대 강자다. 그만큼 AI 반도체 산업에선 엔비디아 의존도가 높다. 생성형 AI 알고리즘을 구현하는데 주로 쓰이는 엔비디아 GPU(Graphics Processing Unit)는 게임에서 고화질 그래픽을 효율적으로 처리하도록 고안된 칩이다. 생성형 AI 붐이 일자 GPU는 AI 칩으로 각광받기 시작했다. AI 알고리즘에서는 대규모 연산을 동시에 하는 병렬연산이 관건이다. 이를 연구하는 과정에서 엔비디아가 만든 GPU가 매우 적합하다는 게 밝혀졌고, 블록체인 기술 발전과 맞물려 폭발적인 인기를 끌었다.

하지만 GPU 기반 AI 칩은 가격이 비싸고 매우 높은 소비전력을 필요로 한다는 게 약점으로 지적되고 있다. 무엇보다 엔비디아 독점 공급 체제여서 칩 자체를 구하는 게 ‘하늘의 별 따기’ 수준으로 어렵다. 글로벌 빅테크들이 독자적인 AI용 반도체 개발에 나서는 이유다.

AI 반도체 시장이 폭발적으로 성장하며 세계 반도체 패권 전쟁이 가열되고 있다. 엔비디아를 견제하려는 글로벌 빅테크 사이 합종연횡이 활발하다. 범용 메모리 시장에서 탁월한 성과로 세계 반도체 시장 1위를 차지했던 삼성전자와 SK하이닉스도 과거의 영광에만 머무를 수 없는 상황을 맞았다.

최근 글로벌 빅테크계 거물들이 잇따라 한국을 찾아 국내 주요 기업 경영진을 만났다. 지난 2월 말 마크 주커버그 메타 최고경영자는 이재용 삼성전자 회장을 만나 AI 반도체와 생성형 AI 협력 방안을 논의했다. 지난 1월에는 샘 알트만 오픈AI 대표가 삼성전자, SK그룹 주요 경영진과 만났다. 이들이 비슷한 시기 잇따라 한국을 찾은 것은 엔비디아를 견제하려는 포석에 따른 것으로 업계는 보고 있다.

AI 칩 종류로 볼 수 있는 ‘HBM(High Bandwidth Memory, 고대역폭 메모리)’ 시장에서 삼성전자와 SK하이닉스는 치열한 경쟁을 벌인다. HBM은 D램 여러 개를 수직으로 연결해 기존 D램보다 데이터 처리 속도를 대폭 끌어올린 고대역폭 반도체다. 전력 소비가 적지만 데이터 전송속도가 매우 빨라 높은 성능을 발휘하기 때문에 머신러닝이나 고성능 컴퓨팅 분야에서 주로 사용된다. AI 반도체 패키징 안에는 GPU로 엔비디아의 ‘H100’ 또는 AMD의 ‘MI300X’가 들어가고 삼성전자나 SK하이닉스가 만든 HBM 칩이 장착된다. AI 반도체 패키징 구조에서는 GPU와 HBM이 서로 빛의 속도로 데이터를 주고받는다.

빅테크 입장에서는 HBM 수급을 위해 안정적 공급망을 확보하는 게 최우선 과제로 떠올랐다. 특히 삼성전자는 칩 설계부터 후공정까지 모두 가능한 세계 유일 종합반도체(IDM) 기업이라는 점이 부각되고 있다.

SK하이닉스는 SK텔레콤·SK스퀘어와 함께 지분을 보유한 AI 반도체 계열사 사피온으로 ‘신경망처리장치(NPU)’ 개발에 속도를 내고 있다. NPU는 AI의 핵심이라 할 수 있는 딥러닝 알고리즘 연산에 최적화된 반도체다. 범용성은 다소 부족하지만 딥러닝 연산에 특화해 GPU보다 빠른 연산 작업이 가능하고 전력 소모를 줄여 전성비도 개선할 수 있다는 게 강점이다.

사피온 지분은 SK텔레콤이 62.5%, SK하이닉스가 25%, SK스퀘어가 12.5%를 갖고 있다. 사피온은 2020년 11월 국내 첫 데이터센터용 AI 반도체 ‘X220’을 내놨다. 지난해 11월에는 전작보다 4배 빨라진 데이터센터용 AI 반도체 ‘X330’을 선보였다. 삼성전자도 지난해 12월 네이버와 손잡고 NPU를 공개했다. 삼성전자와 네이버는 공동 개발한 NPU가 엔비디아 GPU와 같은 성능을 내면서도 전력효율은 8배 이상 높다고 자신했다.

AI 서비스가 갈수록 세분화, 특화하는 점도 삼성과 SK하이닉스에 기회 요인이다. 엔비디아 GPU는 고용량 데이터 병렬연산에 강점을 보여 챗GPT 등 범용 AI에는 필수재로 볼 수 있다. 그러나 AI 서비스 영역이 분화하면서 전문적인 서비스를 제공하는 소형·맞춤형 AI가 갈수록 주목받는다. 우리 반도체 기업들이 틈새를 파고들 여지가 많다는 뜻이다. 기업은 물론, 정부의 적극적인 투자가 절실한 이유다.

- 하제헌 칼럼니스트