조 바이든 미국 대통령이 이달 4일(현지시간) 백악관의 스테이트다이닝룸에서 열린 과학과 기술 자문 위원회 회의에 참석했다. (AP=연합뉴스
오픈AI의 대화형 인공지능(AI) 챗GPT가 작년 11월 출범한지 불과 수 개월 만에 인류는 ‘AI 논쟁’에 휩싸였다. 일론 머스크 등 IT 거물들이 AI의 위험성을 거론하며 ‘한시적 모라토리엄(유예)’을 촉구한 데 이어, 유럽연합(EU)·중국은 ‘AI 규제법’ 마련을 서두르고 있다. 이런 가운데 챗GPT의 본고장인 미국에서 정부 차원의 AI 규제안 도입 검토 작업이 시작됐다고 로이터통신이 11일(현지시간) 보도했다.
로이터에 따르면 이날 미 상무부 산하 국가통신정보관리청(NTIA)은 연방 관보를 통해 “AI가 해를 끼치지 않고 의도한 대로 작동할 수 있도록” AI에 책임성을 부과하는 방안에 대해 학자·업계 관계자 등의 의견을 청취한다고 고지했다. NTIA는 “최근 AI가 유해한 결과를 초래하는 사건이 늘고, 아직 드러나지 않은 잠재적 위험에 대한 우려가 제기되고 있다”면서 “AI 체계는 합법적이고 윤리적이며, 안전하고 무엇보다 신뢰할 수 있어야 한다”고 밝혔다. “식품·자동차가 안전 보장 없이 시장에 출시되지 않듯이 AI도 대중과 정부·기업에 안전하다는 확신을 줘야한다”고도 했다. 백악관의 공식 기술 자문기관인 NTIA는 향후 60일 간 ‘챗GPT 등에 책임성을 부과하는 방법’, ‘연방 차원의 AI 규제법의 필요성’ 등을 청취할 예정이다. 최종 보고서는 오는 6월 백악관에 제출된다.
관건은 바이든 행정부가 행정명령 또는 입법 등을 통해 AI에 관한 규제를 도입할지 여부다. 바이든 대통령은 이달 4일 과학기술자문위원회 회의에서 “AI는 질병·기후 변화와 같은 어려운 문제를 해결하는 데 도움이 될 수 있지만, 잠재적 위험성도 있다”면서 “국민들의 사생활을 보호하고 AI로 인한 잘못된 정보를 다루기 위한 ‘가드레일’이 필요하다”고 밝혔다.
美NSA 당국자 “챗GPT, 피싱 정교화할 수도”
전세계적으로 관심과 논란의 대상이 된 생성형 AI 챗GPT. 로이터=연합뉴스
대형 언어 기반(LLM)의 대화형 AI 챗GPT는 작년 11월 공개된 이래 전세계에서 월간 1억명이 접속하는 등 폭발적인 인기를 끌고 있다. 이와 동시에 챗GPT가 허위 정보를 표출하는 ‘할루시네이션(AI의 환각이란 뜻)’ 현상, 알고리즘 학습 과정에서 온라인상의 개인 정보를 무단으로 수집하는 문제 등이 수면 위로 떠올랐다. 이에 머스크 테슬라 최고경영자(CEO)와 스티브 워즈니악 애플 공동 창업자 등 IT 업계 1000여명은 지난달 28일 공개 서한을 통해 “AI 개발이 통제를 벗어나고 있다. AI의 체계 훈련을 최소 6개월 간 유예하자”고 주장했다.
챗GPT의 위험성을 경고하는 목소리는 미 안보 당국에서도 나오고 있다. 롭 조이스 미 국가안보국(NSA) 사이버보안국장은 11일 미 전략국제문제연구소(CSIS) 대담에서 “챗GPT가 피싱 공격에 활용될 수 있다”는 점을 지적했다. 그는 미 국방부를 비롯한 정부 기관에 피싱 e메일 공격을 언급하면서 “악의적인 외국인 사용자가 원어민 수준으로 변환된 영어 텍스트로 피싱 활용하거나, 공격 대상자에게 접근하기 위해 배경 지식을 쌓는 데 챗GPT가 활용될 수 있다”고 말했다. 그는 “AI가 가까운 미래 해커를 대체하진 않겠지만 AI는 해커들을 더 효과적으로 만들고 최적화 시킬 것”이라고 경고했다.
이탈리아는 챗GPT 차단, 中“사회주의 준수해야”
챗GPT의 등장 이후 각국의 AI 규제 논의는 급물살을 타고 있다. 이탈리아 정부는 지난달 31일 처음으로 챗GPT 사용을 일시 금지시켰다. 개인정보 보호당국이 “챗GPT는 이탈리아 국민들의 데이터를 무단 수집했고, 접근 연령 제한도 두고 있지 않다”면서 관련 규정을 준수할 때까지 챗GPT가 이탈리아에서 서비스 돼선 안 된다고 밝혔다. 20일 내로 이탈리아 정부에 추가 조치를 회신하지 않으면 연간 총 매출액의 4% 또는 최대 2000만 유로(약 289억원)의 벌금이 부과될 수 있다고도 통보했다.
독일의 연방 당국도 “데이터 보안 문제로 인해 챗GPT를 차단한 이탈리아 전례를 독일이 따라갈 수 있다”고 밝혔다. 프랑스·아일랜드에서도 챗GPT 금지 방안이 검토되고 있다고 로이터는 전했다. 유럽은 EU 차원에서 AI를 포괄적으로 규제할 수 있는 법안을 추진하고 있다. 법 집행·교육·기간 산업 등 ‘고위험’ 분야를 지정해 정부가 AI 사용을 엄격하게 통제하도록 하는 게 핵심이다.
챗GPT에 필적할 AI 개발 붐이 불고 있는 중국에서도 11일 정부 가이드라인을 발표했다. 중국 국가인터넷정보판공실이 이날 공개한 ‘생성 인공 지능 관리 조치 초안’에 따르면 “AI가 생성하는 내용은 사회주의의 핵심 가치”를 반영해야 한다. “사회주의 제도 전복, 국가 통일 파괴 및 사회 질서를 교란할 수 있는 내용을 포함해서는 안 된다”거나 “관련 부처의 요구가 있으면 알고리즘 및 데이터의 출처를 제공해야 한다”는 내용도 포함됐다.
