엔비디아 H100의 힘

백우진 경제칼럼니스트·글쟁이㈜ 대표

“광어도 아니고 컴퓨터 칩 가격이 ‘시가’예요. 그것도 없어서 못 사요. 주문 넣은 뒤 몇 달 기다려야 해요.”

지난해 3월 16일, 강연자가 말한 ‘광어 칩’이 엔비디아의 H100이었다. 강연 주제는 ‘거대언어모델(LLM) 기반 생성형 인공지능(AI)’이었는데, 그 핵심이 H100이라는 그래픽처리장치(GPU)라는 사실은 최근에야 알게 됐다. GPU는 방대한 데이터를 병렬로 빠르게 처리해냄으로써 생성형 AI를 가능하게 한다.

H100은 손바닥보다 조금 크다. 가로 268㎜, 세로 111㎜다. 무게는 1690g. 이 칩 시세가 최근 개당 4만 달러를 넘어섰다고 전해졌다. 1g에 약 24달러로, 금값의 40%에 가깝다. 대체재 AMD 칩 가격의 4배 정도다.

돈의 세계

높은 몸값은 추종을 불허하는 성능 덕분이다. 생성형 AI를 제공하려는 업체들에는 시간과 완성도가 생명이다. 짧은 시간 내에 수준 높은 서비스를 제공할 수 있게 하는 H100에 엔비디아의 고객사들은 기꺼이 고가를 감수한다. 지난해 시장의 92%를 엔비디아가 차지했다. AMD의 점유율은 3%다.

H100은 2022년 9월부터 TSMC에서 양산됐다. 이 칩이 몇 개나 생산되는지 엔비디아는 밝히지 않는다. 수요와 관련한 발표 하나가 지난달 나왔다. 메타의 마크 저커버그는 H100을 연내 약 35만 개 확보하겠다고 밝혔다.

H100은 엔비디아 실적과 주가의 터보 엔진이 됐다. 이 칩을 담당하는 데이터센터 부문의 매출은 2022년 1분기 37억 달러였다가 지난 1월 마감한 2023 회계연도 4분기에는 184억 달러로 급증했다. 전체 매출 221억 달러의 83%다. 지난해 강연을 들을 때 필자의 머릿속에서는 엔비디아 주식이 떠오르지 않았다. 주가는 3배로 뛰었다.

미국 골드러시 때 안정적으로 큰돈을 번 회사는 청바지 업체였다. 생성형 AI가 돈맥을 찾는 동안 엔비디아가 받는 부러움도 계속 커지겠다.

백우진 경제칼럼니스트·글쟁이㈜ 대표