삼성과 ‘AI 칩’ 손잡은 그로크 “진짜 승부, 엔비디아 아니다”

팩플 인터뷰

관심

Today’s Interview
AI 승부처는 훈련 아닌 추론, 그래서 GPU보다 LPU다
조너선 로스 그로크 CEO

지난달 21일 미국 워싱턴에서 열린 ‘특별경쟁 연구 프로젝트(SCSP) 첨단기술 서밋 2023’. 전 구글 회장이자 전 미국 인공지능 국가안보위원회(NSCAI) 위원장인 에릭 슈밋이 설립한 싱크탱크 SCSP의 행사다.

최근 시진핑 중국 국가주석과 면담한 척 슈머 민주당 상원 원내대표, 마이크 라운즈 공화당 상원의원 등 미국 전·현직 관료와 정치인들이 연사로 나선 가운데, 스타트업 대표 한 명이 무대에 올랐다. 그는 챗GPT보다 확연히 빠른 속도의 AI챗봇을 시연하며 말했다.

“놀라운 사실을 말씀드리겠습니다. 여기 사용된 칩은 미국에서 설계됐고, 데이터센터는 워싱턴에 있습니다. 게다가 차세대 칩은 텍사스 테일러에서 생산됩니다. 세계에서 가장 빠른 칩은 이제 미국산입니다.” 객석에서 박수가 터져나왔다.

발표자는 미국 AI 반도체 스타트업 그로크(Groq)의 창업자 겸 최고경영자(CEO)인 조너선 로스, 그가 말한 테일러는 삼성전자가 170억 달러(약 21조원)을 들여 내년 완공할 파운드리(위탁생산) 공장이다. 슈밋 전 위원장은 지난해 통과된 미국 반도체법(Chips Act)의 밑그림을 그린 이로 꼽히며, 이날 행사에는 한국·일본·대만·UAE 등 ‘미국 진영’의 과학·디지털 장관들이 온·오프라인으로 참석했다. 그런 행사의 중심에 미국 반도체 스타트업과 삼성의 합작이 소개된 것.

지난 6일 미국 캘리포니아 마운틴뷰의 그로크 사무실에서 조너선 로스 CEO를 만나 질문했다. ‘미국산 칩’은 정치적 구호인가, 실제 고객의 수요인가? 왜 구글이 아닌 그로크인가? 왜 TSMC가 아닌 삼성인가?

한호정 디자이너

알파고 칩 만들다 창업

로스 CEO는 한국인에게 익숙한 알파고(2016년 이세돌 9단과 대국한 AI)에 쓰인 머신러닝용 칩 TPU(텐서 프로세싱 유닛)의 초기 설계자다. 게임 개발자가 되려다가 게임 밖 세상을 바꾸는 쪽이 더 재미있게 느껴져 소프트웨어(SW) 엔지니어의 길로 들어섰다고 했다. 뉴욕대 재학 중 얀 르쿤 교수의 머신러닝 강의를 들었고, 이후 구글에서 TPU 개발에 참여했다.

그는 당시 구글에서 있었던 일을 소개했다. “구글 수석 엔지니어인 제프 딘이 두 장의 슬라이드를 들고 경영진 앞에서 발표했다. 첫째 장, 좋은 소식. 머신러닝의 음성인식 성능이 인간을 능가했다. 둘째 장, 나쁜 소식. 비용이 200억~400억 달러 든다. 구글조차 이걸 감당할 수 없다.”