지난 2014년 북한 김정은 국방위원장이 항공 및 반항공군 제1017군부대, 제447군부대, 제458군부대 전투비행사들의 '검열비행훈련'을 지도하고 있다. 연합뉴스
인간이 전쟁을 인공지능(AI)에 맡겨도 되는가. 최근 AI 산업에 큰 영향력을 행사하는 ‘챗GTP의 아버지’ 샘 올트먼도 이것이 쉽지 않은 문제라고 고백했다.
올트먼 오픈AI 최고경영자(CEO)는 7일(현지시간) 미국 싱크탱크 브루킹스연구소가 ‘AI 시대의 지정학적 변화’를 주제로 개최한 온라인 대담에서 북한이 서울을 기습 공격해 한국이 이를 방어하려면 인간보다 대응 속도가 빠른 AI에 의존해야 하는 상황에 대해 질문 받았다.
마이클 오핸런 브루킹스연구소 선임연구원은 북한이 서울을 향해 군 항공기 100대를 출격시킬 경우, 한국이 AI가 통제하는 로봇을 이용해 항공기를 전부 격추해 북한 조종사 100명이 목숨을 잃는 상황을 가정했다. 그러면서 이런 상황에서 AI에 사람을 죽이는 결정을 맡겨도 되느냐고 물었다.
샘 올트먼(아래) 오픈AI 최고경영자가 7일(현지시간) 미 싱크탱크 브루킹스연구소와의 대담에서 마이클 오핸런(오른쪽 위) 브루킹스연구소 선임연구원의 질문에 답변하고 있다. 사진 브루킹스연구소 유튜브 캡처
올트먼 CEO는 “항공기가 한국에 접근하고 있고 인간이 의사 결정에 관여할 시간이 없을 때 AI가 요격 결정을 할 수도 있지만, 그런 공격이 일어나고 있다고 정말 확신할 수 있나”고 말했다. 그러면서 “어느 정도로 확실해야 하나? 예상되는 인명 피해는? (이러한) 회색지대의 어느 지점에 선을 그어야 하는가? 정말 (우리가 따져봐야 할) 질문이 많다”고 덧붙였다.
그는 또 “난 누군가 ‘AI가 핵무기 발사를 결정할 수 있어야 한다’고 주장하는 것을 들은 적이 없다. 그렇다고 누가 접근하는 미사일을 요격할 때처럼 정말 빠르게 행동해야 할 때 AI를 사용해선 안 된다고 주장하는 것도 들은 적이 없다”며 “이런 내용은 내 전문 분야가 아니다. 오픈AI에서 이런 결정을 하지 않아도 되길 바란다”고 말했다.
지난달 15일 중국 하이난성 하이커우에서 열린 제4회 중국국제소비재박람회(CICPE)에서 한 어린이가 인공지능 로봇을 만져보고 있다. 신화=연합뉴스
올트먼 CEO는 이 자리에서 중국을 겨냥한 듯한 발언도 했다. 그는 지정학적 경쟁이 AI 산업에 미치는 영향에 대해 “우리는 매우 분명히 미국과 우리 동맹의 편”이라며 “이 기술이 인류 전체에 득이 되기를 원하지, 우리가 동의하지 않는 지도부가 있는 특정 국가에 살게 된 사람들에게만 득이 되는 것을 원치 않는다”고 말했다. 그러면서도 “우리가 AI와 관련해 중요한 수많은 것에서 중국과 합의되지 않겠지만 (중국을 포함한) 우리 모두가 AI의 파국적인 위험을 줄여야 한다는 목적을 공유한다는 희망을 품고 있다”고 밝혔다.
그는 또 AI 시스템을 운영하는 데 필요한 컴퓨팅 자원을 의미하는 ‘AI 컴퓨트’(AI compute)와 반도체와 데이터센터 등 AI 기반 시설이 “미래에 가장 중요한 상품”이 될 가능성이 크다고 전망했다. 그러면서 AI 기반 시설이 저렴해지고 누구나 사용할 수 있도록 민간뿐 아니라 정부가 공공재로 투자하기를 바란다고 말했다.
AI 기반 시설 확대하는 데 있어 가장 풀기 쉽지 않은 문제로 전력 공급을 꼽았다. 종전의 문제였던 반도체 수급은 어느 정도 해결이 됐다고 밝혔다. 그러면서 미국이 이끌면서도 꽤 넓고 포용적인 연합체가 AI 기반 시설 확충을 주도하면 좋겠다는 입장을 밝혔다. “미국만 AI 데이터센터를 지어야 한다는 방식은 통하지 않을 것”이라고도 했다.
선거에 AI가 악용되는 상황도 경계했다. 올트먼 CEO는 “AI 기업들이 AI가 선거 방해에 사용되는 것을 막는 데 집중하고 있다”며 “우리도 선거가 끝날 때까지 편집증적으로 대응할 것”이라고 말했다. 그는 사람들이 이전보다 AI를 활용한 가짜뉴스 등을 더 경계하고 있어 과거와 같은 방식으로 AI로 선거에 영향을 미치는 게 쉽지는 않겠지만 새로운 위협이 등장할 가능성을 배제하지 않았다.
