SK하이닉스·삼성전자·마이크론… HBM 삼국지 전개

[테크월드뉴스=김승훈 기자] 반도체에 어느 정도 관심이 있는 사람이라면 반도체는 크게 메모리 반도체와 시스템 반도체(비메모리 반도체)로 나뉜다는 것을 알 것이다. 메모리 반도체는 데이터 저장 역할을 하고 시스템 반도체는 데이터의 연산이 주 역할이다.

메모리 반도체에는 낸드플래시나 D램 등이 대표적이며, 시스템 반도체는 중앙처리장치(CPU)와 그래픽처리장치(GPU), 통신반도체는 물론 다양한 센서와 전력관리에 쓰이는 반도체를 아우르는 개념이다.

우리나라의 삼성전자와 SK하이닉스는 메모리 반도체가 주력이다. 삼성전자는 지난 30년간 D램 시장에서 세계 1위를 차지할 정도로 강력한 존재감을 보이고 있다.

한때는 우리 반도체 기업이 메모리 비중이 너무 높고, 시스템 비중이 낮은 것에 대한 우려가 많았다. 시스템 반도체는 부가가치가 높은 반면, 수급에 따른 가격 변동이 큰 메모리는 소위 '큰돈이 안 되는' 특성 때문이었다.

예를들어 삼성전자와 SK하이닉스 같은 제조사는 메모리 반도체 신제품을 개발하고 양산 체제를 갖춘 뒤 수요 전망에 따라 생산량을 결정한다.

제품을 모두 만든 후 고객사와 계약을 맺는데 이때 가격이 결정된다. 즉, 수요가 많으면 이익이 크지만 수요가 쪼그라들 경우에는 주문이 끊기고 재고가 쌓이면서 수익성이 악화된다.

소위 '반도체 사이클'이라는 말도 이 때문에 생기는 것이다. 어느 시점에는 이익이 넘쳐나지만 어느 시기에는 적자를 면할 수 없다. 지난 1년간 반도체 혹한기가 그랬다. PC나 스마트폰 등 메모리 반도체가 많이 사용되는 분야의 수요가 줄어들면서 메모리 반도체 업계는 역대급 적자를 경험해야 했다.

▶ '고객 맞춤형'으로의 전환… 메모리 반도체 시장에도 통했다

이러한 구조하에서는 안정적 이익을 기대하기 어렵다. 그래서 SK하이닉스가 선택한 것은 '고객 맞춤형 메모리 반도체'였다. 고객사를 먼저 확보하고, 긴밀한 협업을 통해 기술 수준과 생산 방식, 수량 등을 정한 후 계약된 물량을 만들어 제공하는 것이다.

이것이 가능하려면 고객사가 어디에서나 구입할 수 있는 제품이 아니어야 한다. 고객사가 무엇을 얼마나 필요로 하는지 구체적으로 알고, 그에 맞는 제품을 제공해야 한다. 이를 위해 SK하이닉스가 야심차게 내 놓은 것이 바로 '고대역폭메모리(HBM)'이다.

SK하이닉스는 지난 2013년 세계 최초로 고용량 고성능 메모리 반도체 HBM(High Bandwidth Memory)을 내놓기전 미국 반도체 설계업체인 AMD와 협업하며 '고객 맞춤형' 체계를 구축했다.

지금은 챗GPT를 중심으로 인공지능(AI) 산업이 개화하면서 HBM이 필수 요소가 됐으나 그때만해도 사실 HBM이 어떤 파괴력을 가질 것인지 알지 못했다.

글로벌 HBM 시장은 올해 20억 달러에서 2027년 52억 달러, 2028년 63억 달러로 연평균 105% 성장할 것으로 전망된다. 이 시장에서 SK하이닉스는 맨 앞을 달리고 있는 것이다.

▶ 1세대 HBM "개발비도 못 건질 것" 비관론 → AMD 라데온 '퓨리' 흥행 도우미

1세대 HBM의 출발은 지난 2009년으로 거슬러 올라간다. SK그룹에 편입되기 전인 2009년 하이닉스반도체는 'TSV기술개발팀'을 만들었다.

TSV(Through Silicon Via)란 D램 칩에 수천 개의 미세한 구멍을 뚫어 상·하단 칩을 수직으로 관통하는 전극으로 연결한 첨단 패키징 기술을 말한다. 지금이야 흔한 기술이지만 당시만 해도 개발 비용이 비싸고 생산 공정이 어려워 "개발비도 건지지 못할 것"이라는 의견이 지배적이었다. 이런 가운데 SK가 하이닉스를 인수하게 되면서 본격적인 HBM 투자가 시작됐다.

이후 2013년 SK하이닉스가 최초로 개발에 성공한 HBM은 당시 업계 최고속 제품인 GDDR5(그래픽 D램)보다 4배 이상 빠르고 전력 소비는 40% 이상 낮췄다. 29나노 공정으로 생산된 D램 다이 4개를 TSV 기술로 적층했으며 칩당 8Gb의 용량을 구현했다. 1.2볼트(V) 전압에서 1Gb당 8개의 정보 입출력(I/O)를 실시, 초당 128GB의 데이터를 전송할 수 있음을 증명했다.

그리고 2015년 6월 리사 수 AMD 최고경영자(CEO)가 미국에서 열린 E3 게임쇼에서 라데온 '퓨리' 시리즈를 정식 공개하면서 HBM의 존재가 대중에 알려졌다.

AMD의 라데온 '퓨리' 시리즈는 기존 '하와이' 기반 제품에 비해 대폭 늘어난 연산유닛의 수와 그에 비례해 급증한 연산 성능, HBM을 채택해 얻게 된 엄청난 대역폭 등 기술적인 부분만으로도 충분히 이슈가 됐다. 또, 그해 퓨리 시리즈와 R7, R9 300 시리즈를 출시하며 시장 탈환에도 성공했다.

▶ 삼성전자, 2세대 HBM으로 경쟁력 확인

SK하이닉스가 HBM으로 기대 이상의 성공을 거두자 삼성전자도 뒤늦게 뛰어들었다.

삼성전자는 2015년 인텔 개발자 포럼에서 HBM 시장에 진입한다고 발표했다. 시장 진입이 늦은 탓에 1세대 HBM은 포기하고 2세대 HBM 부터 양산을 시작했다. 당시만 해도 HBM 시장이 초기여서 삼성전자도 그리 늦은 것은 아니었다.

삼성은 2016년 초부터 2세대 HBM을 양산하기 시작했다. 4기가바이트 HBM2는 초당 256기가바이트의 데이터 전송이 가능했다. 1세대 HBM에 비해 2배 빠른 속도였다.

이후 삼성전자는 2018년 8기가바이트 HBM2 '아쿠아볼트' 양산도 시작했다. 초당 307기가바이트의 데이터 전송이 가능했으며, 2.4Gbps 8GB 패키지 4개를 탑재하면 최대 초당 1.2TB의 데이터 처리 능력을 구현했다.

반면, SK하이닉스가 2016년 내놓은 2세대 HBM(HBM2)은 실패작으로 꼽힌다.

무리한 기술을 적용해 고객이 원하는 성능과 일정을 맞추지 못했기 때문이다. 삼성전자는 한 개의 다이에 채널 2개, 의사 채널 4개를 구현했는데 SK하이닉스는 같은 조건에서 채널 4개에 의사 채널 8개로 구성하려 했다. 이로 인해 본격 양산이 늦어지면서 삼성전자와 경쟁에서도 밀리게 됐다.

▶ 절치부심 SK하이닉스, 3세대 4세대 HBM 선점… 챗GPT 등장에 '함박웃음'

절치부심한 SK하이닉스는 2018년 부임한 이석희 사장의 지휘아래 3세대 HBM인 'HBM2E'를 2019년 세계 최초로 개발하는데 성공했다. 이석희 사장은 SK하이닉스의 전신인 현대전자에 연구원으로 입사해 인텔에서 근무하며 최고 기술자에게 수여되는 인텔 기술상을 3회나 수상하기도 했다. 이런 부분을 높이 인정받아 SK하이닉스를 한 차원 높은 첨단 기술 중심의 회사로 변모시킬 것이라는 기대와 함께 2018년 12월 사장 자리에 올랐다.

2019년 8월 세상에 모습을 드러낸 'HBM2E'는 2세대 HBM 보다 처리 속도가 50% 이상 빨라졌다. 초당 3.6기가비트 속도로 460기가바이트의 데이터 처리가 가능했다. 이는 풀HD급 영화 124편 분량의 데이터를 1초에 처리할 수 있는 수준이었다.

이어 삼성전자도 2020년 2월 3세대 HBM인 '플래시볼트'를 선보였으나 SK하이닉스와 속도 경쟁에서 밀렸다. 플래시볼트는 데이터 처리속도가 초당 3.2기가비트에 그쳤기 때문이다.

탄력을 받은 SK하이닉스는 4세대 HBM 개발 및 양산에도 앞서가기 시작했다. 2021년 세계 최초로 4세대 제품인 HBM3를 개발했으며 2022년부터 양산을 시작해 AMD에 공급했다. 올해 4월에는 세계 최초로 24GB 12단 HBM3 신제품도 개발했다.

4세대 HBM은 초당 최대 819㎇의 속도를 구현했으며, 16GB와 24GB 두 가지 용량으로 출시됐다. 특히, 챗GPT 열풍이 불며 생성형AI 학습을 위한 고성능 서버 수요가 급증하며 본격적인 HBM특수를 맞이했다. 현재 GPU 시장에서 '표준'으로 자리 잡은 엔비디아 'H100'이 가능했던 이유도 방대한 데이터 처리를 지원할 수 있는  SK하이닉스의 HBM3가 탑재돼 있었기 때문이다.

▶ 5세대도 SK하이닉스가 한발 빨라… 6세대도 '속도전'

HBM이 메모리 반도체 시장에서 차지하는 위상이 높아지면서 삼성전자와 SK하이닉스의 경쟁은 더욱 치열해지고 있다.

5세대 HBM 개발도 SK하이닉스가 빨랐다. 지난 8월 'HBM3E' 개발에 성공하고, 성능 검증 절차를 위해 고객사인 엔비디아에 샘플을 공급하기 시작했으며 내년 상반기부터 HBM3E 양산에 들어간다는 계획이다.

SK하이닉스가 개발한 HBM3E는 초당 최대 1.15TB 이상의 데이터를 처리한다. 이와 함께 어드밴스드 MR-MUF 최신 기술을 적용해 제품의 열 방출 성능을 기존 대비 10% 향상시켰다. 또 하위 호환성도 갖춰 HBM3를 염두에 두고 구성한 시스템에서도 설계나 구조 변경 없이 신제품을 적용할 수 있다.

SK하이닉스의 HBM3E는 내년 2분기 출시 예정인 엔비디아의 차세대 GPU H200에 탑재될 것으로 전해진다.

삼성전자는 지난 10월 20일 미국 실리콘벨리에서 열린 삼성 메모리 테크 데이 2023을 통해 5세대 HBM3E '샤인볼트(Shinebolt)'를 공개했다. '샤인볼트'는 초당 최대 1.2TB 이상의 데이터를 처리할 수 있는 속도다. SK하이닉스의 HBM3E 보다 속도가 빠르다. 올 하반기에는 업계 최고 수준 성능인 9.8Gbps로 HBM3E(샤인볼트)를 개발해 24GB(기가바이트) 샘플을 공급하고 있다. HBM3E 36GB 초고용량 제품은 내년 1분기에 샘플을 고객사에 공급하고, 내년 하반기에 대량 양산체제를 구축할 계획이다. 또 2025년에는 6세대 HBM4 샘플 공급도 목표로 하고 있다.

6세대 HBM인 HBM4는 지금까지의 반도체와는 완전히 다른 개념이 적용된다. SK하이닉스는 HBM4부터 메모리 반도체와 로직 반도체를 동일한 다이에 함께 구현하는 방식에 도전하기로 했다. 반도체 개발 역사상 처음으로 로직 반도체(GPU)와 메모리 반도체(HBM)가 완전히 붙어 한 몸처럼 움직이는 '주상복합 반도체'라고 할 수 있다.

정성공 옴디아 이사는 지난 23일 '옴디아 한국 테크놀로지 컨퍼런스'에서 "HBM4E부터는 그래픽처리장치(GPU)에 HBM을 바로 적층(스태킹)하는 방식을 활용할 가능성이 있다"며 고대역폭메모리(HBM)에서 3D로 누가 먼저 가느냐에 따라 업계에 커다란 지형 변화가 나타날 수 있다고 강조했다.

▶ SK하이닉스·삼성전자·마이크론… HBM 삼국지 전개

HBM 시장은 SK하이닉스가 한발 앞선 가운데 생산성과 안정성이 장점인 삼성전자와 미국 마이크론테크놀로지 간 치열한 경쟁이 예고된다.

특히, 후발주자인 미국 마이크론이 내년부터 HBM 경쟁에 본격적으로 뛰어든다.

마이크론은 4세대 HBM3 양산을 건너뛰고 내년에 5세대 HBM3E 대량 양산체제에 들어가면서 SK하이닉스, 삼성전자와 전면 경쟁에 나선다는 목표다. 특히 마이크론은 대만 파운드리 업체 TSMC와 패키징 분야를 협력해 경쟁력을 확보한다는 점에서 주목된다.

마이크론은 내년 HBM3E 매출에도 자신감을 보였다. 산자이 메토트라 마이크론 최고경영자(CEO)는 지난 9월 4일 실적발표 컨콜에서 "현재 HBM은 고객사와 검증 단계에 있으며, 내년 초에 수익이 시작될 것으로 예상한다"라며 "내년 실적에서 HBM은 7억 달러(9천509억 원) 매출을 달성할 수 있을 것"이라고 말했다. 이어 "향후 HBM 시장에서 점차 점유율을 높일 수 있을 것으로 기대한다"고 덧붙였다.

SK하이닉스와 삼성전자는 지난달 3분기 실적발표 컨콜에서 "내년 HBM3, HBM3E 물량이 모두 완판(솔드아웃, Sold out) 됐다"며 시장 우위임을 강조했다. 또 양사는 고부가가치 제품인 HBM 수익성을 더 확대하기 위해 내년에 생산시설 투자를 단행한다는 계획이다. 더 나아가 양사는 2025년에 HBM4 공급을 목표로 개발 중이다.

시장조사업체 트렌드포스에 따르면 지난해 글로벌 HBM 시장점유율은 SK하이닉스가 50%로 1위를, 2위는 삼성전자(40%), 3위는 마이크론(10%)이 차지했다. 내년에는 SK하이닉스와 삼성전자의 점유율이 47~49%로 엇비슷해지고 마이크론이 3~5%를 기록할 전망이다.

트렌드포스는 "SK하이닉스는 현재 HBM3 생산을 주도하며 엔비디아의 주요 공급업체로 활동하고 있다. 삼성전자 또한 공격적인 시설 투자로 HBM 물량을 확보할 수 이을 것"이라며 "다만, 주로 HBM3E 개발에 주력해 온 마이크론은 두 한국 제조사의 공격적인 확장 계획으로 인해 향후 2년 동안 시장 점유율이 소폭 감소할 수 있다"고 말했다.