뉴스레터 팩플 Weekly

[팩플 Weekly] 기후테크와 AI의 ‘더러운 비밀’ (feat. 삼성의 AI칩 고객님)

2023.10.26 Thursday #55

안녕하세요, 팩플 Weekly 구독자님!

저는 오늘 팩플 오리지널을 소개 드릴 김경미 기자입니다.

구독자님께서는 평소 텀블러를 즐겨 사용하시나요? 솔직히 고백하자면 저는 특이하고 예쁜 텀블러를 열심히 사놓고, 부엌 찬장에 곱게 쌓아만 두고 있습니다. 아침 출근길에 하나 챙겨 나오면 될텐데, 늘 깜빡하고 나와선 일회용기를 사용하게 되더라고요. 사실 이런 말도 다 핑계지만 말입니다.

지구 온난화를 막기 위해 친환경 활동에 힘을 보태야 한다는 것, 머릿 속으로는 잘 알고 있지만 실천하기는 쉽지 않습니다. 아직은 기후 위기를 절감하지 못하다보니 오래전부터 관성적으로 외치는 거창한 구호 같기도 하고요. 진심 어린 공감이 뒤따르지 않다보니 몸이 잘 움직이지 않는달까요.

최근 탄소 배출량 감축에 기여하는 기후테크 스타트업들이 빠르게 늘어나고 있지만 B2C(기업·소비자 간 거래) 시장에선 쉽게 자리 잡지 못하는 이유가 그래서 아닌가 싶습니다. 기존 기술과 비교해 낯설거나 불편한 점도 있을 수 있고요. 이를 해결하기 위해 요즘 기후테크 업계가 주목하는 기술이 바로 인공지능(AI)입니다.

팩플 오리지널

기후 위기서 인류 구할 AI…

‘더러운 비밀’ 숨어 있었다

AI 임팩트 on 기후테크.

‘병주고 약주는 AI, 기후 문제 해결사 될까’

💬 목차

1. 기후테크, 요즘 어때?

2. AI의 더러운 비밀

3. 그럼에도 AI

4. AI 부스터 맞은 기후테크

5. 대격변의 시대, 필요한 정책은

👉 기사 보러 가기 GO!

기후테크에 AI가 더해지니 건물 내 냉난방 관리도 더 효율적으로 바뀌었고요. 해양 쓰레기를 수거하거나 페트병이나 의류, 캔 등 폐기물을 인식해 재활용 가능한 자원으로 처리하는 과정도 훨씬 간편해졌습니다. 보고 듣고 분석하는 다양한 AI 기술이 활용된 덕분입니다. 우리가 자주 쓰는 길찾기 앱이나 택시호출 앱도 일종의 기후테크라고 볼 수 있고요.

하지만 AI 자체가 엄청난 탄소를 내뿜는 ‘기후 악당’이기도 하다는 점은 참 모순적인데요. 빅테크들이 거대언어모델(LLM)을 개발하는 과정이나 생성 AI를 학습시키는 과정에서 막대한 전력이 소모되거든요. 블룸버그에 따르면 챗GPT 개발사인 오픈AI가 LLM GPT-3를 학습시키는 과정에서 미국 120개 가구가 1년간 쓸 전력량(1287MWh)을 사용했다고 합니다. 이 과정에서 배출된 탄소량은 502t으로 추산되는데, 미국 110개 가구의 1년 탄소 배출량에 맞먹는다고 하고요.

하지만 그렇다고 해서 기술의 발전을 가로막아야 할까요. 빅테크들과 기술 낙관론자들은 AI가 뿜어댄 탄소는 결국 AI가 스스로 상쇄할 수 있다고 믿습니다. 과연 AI는 기후문제를 해결하는 강력한 도구가 될 수 있을까요? 국내외 기후테크 현황과 각국의 정책, AI와 기후테크의 줄다리기가 궁금하시다면 이번 리포트를 놓치지 마세요. 기사 보러 가기 GO!

팩플 인터뷰

AI 승부처는 '훈련 아닌 활용,'

그래서 GPU보다 'LPU'다.

조나단 로스 그로크 창업자 겸 CEO

안녕하세요, 이번주 팩플 인터뷰어 심서현 기자입니다.

‘두유 노우 삼성?’ ‘두유 노우 이세돌?’ … 다양한 한국인 ‘두유노’ 시리즈 중에서, 오늘 인터뷰이는 2건이나 관련돼 있습니다. 미국 AI 반도체 유니콘 그로크(Groq)의 조나단 로스 CEO인데요. 그는 2016년 이세돌과 대국한 알파고에 사용된 구글 칩 TPU의 초기 설계자고, 그로크는 미국 텍사스주에 위치한 삼성전자 테일러 파운드리(위탁 생산) 공장이 첫 공개한 고객사입니다.

그로크의 칩은 언어 처리에 특화된 LPU입니다. 그래서 LPU의 AI 서비스 구동 속도는 그래픽 처리장치인 GPU와 비할 수 없이 빠르다고 했습니다. 인터뷰 중에 그로크 LPU 기반으로 돌아가는 AI 챗봇과 AI 사진 변환 앱 등을 시연해 보여줬는데, 과연 빨랐습니다. 챗GPT나 스노우 앱이 느리다는 생각 안해봤는데, 그로크 데모 써본 뒤에는 기존 AI 서비스 속도가 답답하게 느껴지더군요.

그런데 인터뷰 핵심은 그로크 기술 자랑이 아닙니다. 왜냐면, 기술이 좋아도 잘 안 팔리는 게 지금 AI 반도체 스타트업의 딜레마거든요. 그리고 이건 결국 삼성전자의 파운드리 사업 확장과도 직결됩니다.

‘IBM 사서 짤린 직원 없다.’ IT업계 속담(?) 같은 말입니다. 자매품으로 ‘마이크로소프트 사서 짤린 직원 없다’도 있습니다. 기업용 장비나 SW를 구매할 때 남들 다 쓰는 제품을 사면, 혹 문제가 발생해도 구매팀이 독박 쓸 일 없다는 의미입니다. (저같은) 월급쟁이들이 안전한 선택을 하기 마련이니, 시장 1위 사업자가 절대적으로 유리하죠.

요새는 ‘엔비디아 사서 짤린 직원 없다’ 라고 하면 딱 맞겠네요. GPU보다 싸고 좋다는 AI 반도체들이 있지만, AI모델이 다른 하드웨어(칩)에서는 안 돌아갈 수도 있다는 우려에, GPU 이외엔 선뜻 눈길을 안 줍니다. 그래서 AI 반도체 스타트업들은 기술과 판로를 동시에 뚫어야 하는 지난한 싸움 중이죠. 여기에다 미⋅중의 ‘칩 워’가 가열되는 바람에 방정식은 더 복잡해졌구요.

그래서 인터뷰에서 좀 단도직입적으로 질문했습니다. “LPU 성능 좋은 거 알겠는데, 엔비디아 마진율 높은 것도 알잖아. 엔비디아가 맘 먹고 AI 반도체 스타트업들 몰아내려고 GPU 가격 낮추면 어떻게 할 거야?”, “삼성파운드리를 택했다고. 혹시 TSMC 대기순번이 너무 길어서 어쩔 수 없이 삼성 계약한 거 아냐?” (물론 예의바른 한국인답게 정중하게 질문했습니다….)

엔비디아와 AI 반도체에 관심 있는 분이라면, 미⋅중 반도체 전쟁에 주목하는 분은 꼭, 삼성전자 주주님들은 반드시, 읽어주세요! 인터뷰 보러 가기 GO!

팩플 금요오리지널

3년내 MS·구글이 다 먹는다…

AI 스타트업, 여기 투자하라

안녕하세요, 이번주 팩플 금요 오리지널을 소개해드릴 심서현 기자입니다.

실리콘밸리 인터뷰의 자매품, 아니 메인 디쉬인 벤처캐피털(VC) 2인 인터뷰입니다.

한동안 AI 챗봇과 초거대AI 모델이 주목받다가, 올초부터는 AI 반도체나 인프라 쪽으로 관심이 급속히 쏠리는 모양새입니다. 지금 돈 버는 건 오픈AI가 아니라 엔비디아라는 걸 다들 알아버려서겠죠.

반면 각종 AI 서비스에 대해서는 ‘그거 뭐, 기술은 별 거 아니잖아?’ 하는 심드렁한 시선이 대다수인 것 같습니다. 최근 1~2년 새, 사용자는 많고 돈은 못 버는 B2C 플랫폼에 대한 시장 시선이 싸늘해진 것과 맞물리기도 했고요.

과연 실리콘밸리 VC는 AI의 혁신과 가치창출이 어디서 나올 거라고 볼까, 궁금했습니다. 도어대시, 리프트, 플리커 같은 기업을 초기 단계에 투자한 ‘떡잎 감별’ 전문 제임스 커리어 NFX 제너럴 파트너, MS 부사장과 드롭박스 CTO 등을 거친 ‘기술 감별’ 전문 퀜틴 클라크 제너럴 캐털리스트(GC) 매니징 디렉터를 각각 만났습니다(현지에서 도움 주신 VC투자자 이안님 감사합니다).

두 인터뷰를 마치고 제 머릿 속에 문득 한 단어가 떠올랐습니다. ‘맑눈광’. 두 사람 모두 말투는 차분하지만 뿜어내는 안광이 압도적이었습니다. 그래, 저 눈으로 ‘이놈 될 놈’ ‘요놈은 아니고’ 라고 그간 수백만 개의 스타트업을 골라냈겠군, 싶었습니다.

‘한국어와 한국어 데이터? 구글과 MS로부터 지켜줄 보호막 못 된다’, ‘한국 스타트업, 글로벌부터 가지 마라’, ‘AI 스타트업 중 될놈 구분은 이렇게’... 실밸의 맑눈광들이 형형한 눈빛으로 일러준 알짜 조언들, 읽어 보셔야 하지 않겠습니까.🕵. 그럼 기사 보러 가기 GO!