‘반도체의 미래’ DPU…“기술력으로 엔비디아 이길 수 있다”

[연중 기획 혁신창업의 길] R&D 패러독스 극복하자 〈63〉 김장우 망고부스트 대표

망고부스트 창업자인 김장우 서울대 교수가 서울 관악구에 있는 회사 사무실에서 인터뷰하고 있다. 배경에 보이는 제품이 AMD와 협업한 DPU 반도체다. 전민규 기자

‘매그니피센트 7 (Magnificent seven).’ 요즘 미국 주식 시장에서 가장 뜨거운 이름이다. 애플·마이크로소프트·아마존·알파벳(구글)·엔비디아·테슬라·메타 등 7개 대형 기술주를 말한다. 이들 회사의 공통점이 하나 있다. 글로벌 AI (인공지능) 산업을 선도하는 회사이자, AI 기술을 뒷받침하는 ‘하이퍼 스케일 데이터센터’를 갖춘 회사라는 점이다.

초고사양 컴퓨터 서버를 모아 놓은 데이터센터는 AI 시대 필수재다. 웬만한 IT기업이라면 연면적 2만 2500㎡(약 6800평) 부지, 10만대 이상의 서버를 갖춘 데이터센터를 갖추는 게 기본. AI, 특히 대규모 언어모델(LLM)을 개발하고 관리하려면 데이터센터에 무수히 많은 그래픽처리장치(GPU)가 필요하다. 하지만 공급 부족으로 GPU 가격은 개당 2000만~3000만원에 육박하고 있다.

DPU로 전력 과다 사용 해결
지난해 700억대 투자 유치
글로벌 대기업과 협력·경쟁

고비용 데이터센터는 환경 측면에서도 문제가 된다. 업계에선 데이터센터 한 곳이 사용하는 전력량이 6000가구(4인 기준)가 쓰는 전력량과 비슷하다고 본다. 국제에너지기구에 따르면, 전 세계 데이터센터의 전력 소비량(2020년)은 아르헨티나 국가 전체가 한 해 동안 쓴 것과 맞먹는다. 앞으로 AI가 전통산업과 결합해 확산하는 추세에 가속도가 붙으면 비용, 환경 문제가 더 심각해질 것이란 전망이 나오는 이유다.

“개발자·고객·정부 모두가 원해”

김장우(52) 서울대 전기정보공학부 교수가 2022년 창업한 망고부스트는 이 같은 데이터센터의 고비용 문제, 전력 과다 사용 문제를 해결하려는 회사다. ‘DPU(Data Prosessing Unit)’라는 서버 최적화 반도체를 통해서다. 기존 컴퓨터에서 CPU(중앙처리장치)가 데이터 처리, 그래픽, 저장 등 시스템 전반을 담당했다면 AI 시대엔 고성능 그래픽 처리에 최적화된 GPU가 그 역할을 이어받고 있다. DPU는 과부하가 걸리고 있는 이들로부터 업무를 덜어줘서 각자 성능을 극대화하게 해주는 장치다. CPU, GPU가 데이터 연산과 처리에 집중할 수 있게 보조 업무를 분담해 전체 속도를 높이고 최고의 성능을 뽑아내게 해준다.

이 때문에 DPU 도입은 빅테크 기업들의 선택이 아닌 ‘가야 할 길’로 평가받는다. 공급이 부족하고 가격도 비싼 GPU를 구했다 하더라도, 전력 소비가 큰 데이터센터를 무한정 늘릴 수 없기 때문이다. 일정 숫자의 GPU를 유지하면서 DPU를 달아 최적의 효율을 내는 데이터센터가 늘고 있다. 젠슨 황 엔비디아 최고경영자(CEO)도 2020년 개발자 컨퍼런스 ‘GTC2020’ 기조연설에서 “CPU와 GPU에 이어, DPU가 (AI 시대 필수인) 가속 컴퓨팅의 또 하나의 핵심축이 될 것”이라며 DPU를 반도체의 미래로 지목하기도 했다.

서울 관악구 망고부스트 사무실에서 만난 김 교수는 DPU의 역할에 대해 ‘교통정리’라고 설명했다. 그는 “AI 개발 과정에서 컴퓨터 작업을 하면 길이 막히듯 여러 군데 데이터 처리에 정체가 걸린다”며 “이 병목 지점마다 DPU가 교통정리를 하고, 속도가 저하된 CPU 성능을 높여준다”고 설명했다. 이어 “(DPU를 쓰면) GPU 효율도 같이 올라가니 데이터센터 규모를 더 키우지 않아도 된다”며 “전력 문제를 겪는 정부도 큰 기대를 거는 분야”라고 덧붙였다. 김 교수에 따르면, DPU가 들어간 데이터센터는 총 비용을 최대 70%까지 낮출 수 있다고 한다.

김경진 기자

망고부스트는 지난해 9월 700억 원대 투자(시리즈 A)를 유치했다. 벤처캐피탈(VC)업계에서 시리즈 A 단계부터 수백억 원대 투자를 유치한 것은 이례적인 일이다. 생성 AI 붐이 본격화한 시기라는 이점도 있었지만, 그만큼 기술력을 갖춘 회사라는 평가도 있다. 김 교수는 “지금의 망고부스트 기업가치는 우리 기술력에 비하면 오히려 낮은 평가”라고 반박했다.

김 교수가 자신감을 보이는 이유는 연구 성과 덕분이다. 그는 DPU ‘원조’로 불린다. 2014년부터 본격적으로 DPU 연구개발을 시작했는데, ISCA·MICRO·HPCA 등 컴퓨터 시스템 3대 학회에 관련 논문 수십 편을 게재했다. 김 교수는 “당시 요구되는 컴퓨터 사양이 지금에 비해 크게 낮은 편이었는데도 이미 CPU 성능이 저하됐다”며 “앞으로 10배, 100배 데이터 처리 규모가 커지면 서버 최적화가 반드시 필요할 거라고 봤다”고 설명했다.

예상은 적중했다. 시장분석업체 마켓앤마켓에 따르면 DPU 시장은 2021년부터 연평균 35%씩 커져 2027년엔 약 100조원 규모가 될 전망이다. 미국 빅테크 기업도 DPU 개발 스타트업을 인수하며 경쟁에 뛰어들었다. 엔비디아가 2019년 멜라녹스를 8조5000억원에 인수한 이후 AMD가 펜산도를 2조3000억원에 사들였다. 지난해에는 마이크로소프트가 펀저블을 2000억 원대(추정치)에 인수했다.

망고부스트도 엔비디아를 제외한 거의 모든 DPU 기업과 협력관계를 유지하고 있다. 김 교수는 “최근에 AMD와 협업한 제품 개발이 완료됐다”며 “망고부스트 소프트웨어가 담긴 AMD DPU칩인데, AMD는 하드웨어 플랫폼을 제공하고 우리가 맞춤형 솔루션을 제공하는 방식”이라고 말했다.

“이미 증명된 기술력 자부”

이쯤 되니 왜 창업이 늦어졌는지 궁금했다. 김 교수는 10년 전부터 DPU를 개발해 왔지만, 2년 전 창업했기 때문이다. 그는 “솔직히 기술만 있었지 이게 사업이 될지 모르고 있었다”고 말했다.

연구만 하다가 창업한 계기가 뭔가.

“2017년 학회에 갔는데 아마존이 DPU와 유사한 방식으로 컴퓨팅 시스템을 최적화하는 서비스를 소개했다. ‘우리가 가장 오래 해왔는데’ 싶었다. 지금 하고 있는 그대로 상용화하면 된다고 주변에서 많이 권했다. 밖에서 볼 때는 얼마 안 된 회사지만 업계에선 이미 우리를 알고 있었다.”

개발 인력이 연구실에 같이 있던 제자들인데.

“창업하기 전에 다 같이 회의를 했다. 내가 ‘외국 가서 돈 많이 버는 것도 좋고, 공부를 더 하는 것도 좋지만 우리나라에서 시스템 반도체로 미국 빅테크와 붙을 수 있는 건 우리밖에 없다. 논문으로 증명해왔잖아’라며 제안하자, 한 명도 빠지겠다는 사람이 없었다. 그 자리에서 대학원생 15명이 전부 휴학하고 망고부스트로 옮겨왔다. 누구보다 이게 되는 사업인지 잘 알지 않나. 하루 18시간씩 6~7년 연구한 이들이 합류했기 때문에 회사가 돌아간다. 처음부터 지분도 다 나눠 가졌다.”

망고부스트 이름 의미는 뭔가.

“그냥 예쁜 이름을 쓰고 싶었다. DPU가 데이터센터 성능과 전력 효율을 올리니까 ‘부스트’를 먼저 정해놨다. 키위부스트, 부스트하이 등 앞뒤로 이것저것 붙이다가 망고가 제일 좋아서 정했다.”

글로벌 AI 패권 경쟁과 맞물려 정부도 DPU 개발과 데이터센터 효율화를 미래 전략산업으로 꼽고 있다. 이종호 과기정통부 장관은 지난해 3월 망고부스트를 방문해 DPU 관련 간담회를 가졌다. 당시 이 장관은 “국제경쟁력에서 열세에 있는 시스템 반도체 역량을 확대하기 위해 많은 정책 고민과 노력을 기울이고 있다”고 말했다. DPU가 ‘게임 체인저’가 될 수 있다는 기대감이 깔려 있다. 김 교수에게 글로벌 시장에서 경쟁력에 관해 물었다.

엔비디아를 이길 수 있을까.

“DPU는 아직 절대강자가 없다. 세부 기술로 들어가면 우리가 이기는 부분도, 지는 부분도 있다. AI를 확실히 잡고 있는 엔비디아가 요즘 DPU를 계속 말하는 것도 그만큼 욕심이 난다는 의미다. 규모는 스타트업이지만 글로벌 대기업들과 협력하고 경쟁하고 있다는 사실이 중요하다.”

창업은 대학 연구와 다르지 않나.

“연구실에서 시제품을 만드는 것과 실제 출시를 준비하는 상품은 차이가 있더라. 연구 때는 한 번씩 오류가 나도 DPU 성능이 잘 나오면 괜찮았다. 하지만 시장에 출시하려면 수천만 번을 돌려도 실패가 없어야 했다. 제품 검증 단계에 자원이 굉장히 많이 들어간다는 걸 깨달았다.”

‘우리 아니면 못한다’는 사명감

구체적인 목표치가 있다면.

“당장 최전선에서 싸우고 있기 때문에 더 진화한 DPU를 빨리 개발해서 시장을 장악한다는 생각밖에 없다. 정말 중요한 기술은 대기업보다 스타트업, 그중에서도 대학에서 나온다. 대학에서 연구를 시작해 세계 1위가 된 한국 최초의 사례가 목표다. 돈은 우선순위가 아니다.”

자부심이 대단해 보인다.

“감히 사명감을 말하는 건 ‘우리밖에 없다’는 생각에서다. 객관적으로도 망고부스트가 아니면 한국은 DPU 개발 못한다. DPU 분야에선 우리가 세계 최고다. 세계 선수권대회 격인 학계에서 금메달 땄으니 이제 올림픽 무대인 산업 현장에서 증명하겠다.” 

김철웅 기자 kim.chulwoong@joongang.co.kr