인공지능 위협 막을 '어벤저스' 떴다… 머스크·저커버그는 제외

중앙일보

입력

업데이트

샘 올트먼 오픈AI 최고경영자. 뉴시스

샘 올트먼 오픈AI 최고경영자. 뉴시스

인공지능(AI)의 잠재적 위협으로부터 인류를 지키는 '어벤저스'가 구성됐다.

샘 올트먼(오픈AI), 사티아 나델라(마이크로소프트·MS), 순다르 피차이(구글), 젠슨 황(엔비디아) 등 미국 기술 기업 최고경영자(CEO)들이 AI의 안전한 사용을 위해 머리를 맞댄다.

미국 국토안보부는 26일(현지시간) AI의 안전한 사용을 위한 연방 자문기구인 AI 안전보안이사회(AI Safety and Security Board)를 발족하고, 자문위원 22명의 명단을 발표했다.

이 기구는 챗GPT로 촉발된 AI 열풍의 부작용을 막고 AI 시스템의 안전한 사용을 위해 설립된 자문기구다. 조 바이든 대통령이 지난해 행정명령을 통해 이같은 기관의 설립을 지시했다.

인공지능은 바둑에서 이미 인류를 앞질렀다. 인공지능이 인간을 뛰어넘는 세계에 대한 경고의 목소리도 높다. 연합뉴스

인공지능은 바둑에서 이미 인류를 앞질렀다. 인공지능이 인간을 뛰어넘는 세계에 대한 경고의 목소리도 높다. 연합뉴스

이 기구 설립은 경제, 공중보건 등 중요 산업이 AI로 인한 위협으로 피해를 당하지 않도록 보호하기 위한 것이라고 미국 정부는 설명했다.

명단에는 챗GPT 개발사인 오픈AI의 올트먼 CEO와 나델라 MS CEO, 피차이 구글 모회사 알파벳 CEO, 젠슨 황 엔비디아 CEO, 리사 수 AMD CEO 등이 이름을 올렸다.

어도비, 델타 항공, 아마존 AWS 클라우드 컴퓨팅 부문 CEO 등과 함께 스탠퍼드대 AI 연구소장, 메릴랜드 주지사, 시애틀 시장 및 시민단체 관계자도 포함됐다.

그러나 AI 스타트업 xAI를 보유한 일론 머스크 테슬라 CEO와, 페이스북 모회사 메타플랫폼 마크 저커버그 CEO는 포함되지 않았다.

이사회는 앞으로 전력망 사업자, 운송 서비스 제공업체, 생산 공장 등을 대상으로 AI 기술 발전에 따른 잠재적 혼란에 대비해 각각의 시스템을 보호하고 AI의 안전한 사용 방법에 대한 권장 사항을 개발하게 된다.

다만 구체적인 활동 계획 등은 알려지지 않았다.

알레한드로 마요르카스 국토안보부 장관은 "미국의 수도 시설, 교통 시스템, 은행 등에 AI 기술을 활용하는 것은 서비스 개선을 위한 엄청난 기회이지만, 동시에 상당한 위험도 있다"면서 "중요한 인프라에서 AI를 안전하고 책임감 있는 방식으로 사용하지 않으면 파괴적일 수 있다"고 말했다.

한편 '인공지능의 대부'로 널리 알려진 제프리 힌턴 토론토대 명예 교수는 최근 "10년 내 자율적으로 인간을 죽이는 로봇 무기가 등장할 것"으로 전망했다. 힌턴 교수는 지난 9일 공개된 니혼게이자이신문과의 인터뷰에서 "1차 대전에서 참화를 초래한 화학무기는 훗날 국제 합의에 의해 금지됐다"며 "로봇 무기도 조만간 규제할 수 있을 것"이라고 말했다. 다만 그는 "하지만 그것이 실현되는 것은 실제로 전장에서 사용돼 보고, 인류가 비참함을 인식한 뒤가 될지도 모른다"고 우려했다.

ADVERTISEMENT
ADVERTISEMENT