이수화 한림대학교 AI융합연구원 연구교수
미국 반도체 기업 엔비디아가 지난달 GTC 2024를 개최했다. 인공지능(AI) 분야 선도를 표방하는 이 행사에 30만명이 참가했다. 젠슨 황 회장이 그래픽처리장치(GPU)인 블랙웰 B200을 발표했다. 이전의 H100에 비해 최대 30배 빠른 B200의 성능은 20페타플롭스(Pflops)이다. 기상청 수퍼컴퓨터 5호기 마루·그루의 25.5페타플롭스와 비슷한 수준이다. 페타플롭스는 1초당 1000조번의 수학 연산처리를 의미한다.
엔비디아의 목표 주가는 1000달러다. 예상 매출은 1100억 달러(약 146조원)로 인텔의 2배다. 이런 장밋빛 전망의 근거가 있다. 엔비디아의 GPU는 트랜스포머 AI 학습에 필수적인 요소다. 오픈AI의 GPT-4는 A100 GPU 2만5000개로 학습됐다. 메타는 한 개에 4000만원인 H100을 35만개 주문했다. 메타는 이번에 나온 B200도 사전 대량 주문을 하여, 총 60만개의 GPU를 확보할 예정이다.
젠슨 황(左), 짐 켈러(右)
현재 기업의 생존은 생성형 AI의 성능과 직결됐다. 대규모 IT 기업들은 신경망 연산 능력을 보장하기 위해 GPU 확보에 열을 올린다. AMD와 인텔이 제작하는 GPU도 성능이 우수하지만, 엔비디아의 GPU가 거의 독점적으로 사용되는 이유는 쿠다(CUDA)라는 AI 개발 도구 때문이다. 쿠다로 개발된 프로그램은 엔비디아의 GPU에서만 실행된다. 많은 AI 개발자들이 10년 이상 쿠다를 사용해왔기 때문에 쌓인 코드 양이 상당하며, 이는 다른 개발자에게도 유용한 자료다. 이것이 바로 소프트웨어 산업을 지배하는 ‘락인(Lock-in) 효과’다. 특정 소프트웨어에 익숙해지면 다른 소프트웨어로 전환하기가 매우 어렵다. 쿠다가 아닌 다른 소프트웨어 개발도구나 AI 칩을 사용할 경우, 시간이 세 배 이상 소요된다는 주장도 있다.
젠슨 황과 함께 거론되는 인물로 짐 켈러가 있다. 켈러는 AMD·인텔·애플·테슬라·DEC 등 IT업계에서 많은 디바이스의 칩을 설계한 권위자다. 현재 GPU보다 AI 개발에서 훨씬 효율적인 ‘텐서 처리장치(TPU)’를 개발 중이다. 그는 높은 소비전력·생산비가 필요한 GPU·쿠다의 비효율성을 해결할 다른 방법을 찾고 있다. 미래 소프트웨어 방향성 예측에 실패한 인텔은 두 차례 격전에서 켈러에게 졌다.
젠슨 황과 짐 켈러. 기술력과 예측력을 갖춘 두 명장이 AI의 시대에 걸맞은 하드웨어의 방향성을 두고 격돌한다. 이들의 능력과 선택이 가져올 결과가 매우 흥미롭다. AI 연구자들이 건물을 지을 장소로 익숙하지만 비싼 GPU와 쿠다의 땅, 간결하지만 익숙하지 않은 새로운 영토 중 어느 곳을 선택하느냐에 따라 향후 AI 산업 전체에 미칠 여파가 클 것이다.
이수화 한림대학교 AI융합연구원 연구교수
