미국 정부가 인공지능(AI) 규제안 도입을 놓고 검토 작업을 시작했다. 로이터통신에 따르면 미 상무부 산하 국가통신정보관리청(NTIA)은 11일(현지시간) 관보를 통해 ‘AI가 해를 끼치지 않고 의도한 대로 작동할 수 있도록’ AI에 책임성을 부과하는 방안에 대해 학자·업계 관계자 등의 의견을 청취한다고 고지했다.
NTIA는 “최근 AI가 유해한 결과를 초래하는 사건이 늘고, 아직 드러나지 않은 잠재적 위험에 대한 우려가 제기되고 있다”면서 “AI 체계는 합법적이고 윤리적이며, 안전하고 무엇보다 신뢰할 수 있어야 한다”고 밝혔다. 이어 “식품·자동차가 안전 보장 없이 시장에 출시되지 않듯이 AI도 대중과 정부·기업에 안전하다는 확신을 줘야 한다”고 했다. NTIA는 앞으로 60일간 ‘챗GPT 등에 책임성을 부과하는 방법’ ‘연방 차원의 AI 규제법의 필요성’ 등을 청취할 예정이다. 최종 보고서는 오는 6월 백악관에 제출된다.
바이든 대통령은 지난 4일 과학기술자문위원회 회의에서 “AI는 질병·기후변화와 같은 어려운 문제를 해결하는 데 도움이 될 수 있지만, 잠재적 위험성도 있다”면서 “국민 사생활을 보호하고 AI로 인한 잘못된 정보를 다루기 위한 가드레일이 필요하다”고 밝혔다.
대형 언어 기반(LLM)의 대화형 AI 챗GPT는 지난해 11월 공개된 이후 전 세계에서 한 달 평균 1억 명이 접속하는 등 폭발적 인기를 끌고 있다. 이 과정에서 챗GPT가 허위 정보를 표출하는 ‘할루시네이션’(AI의 환각이란 뜻) 현상, 알고리즘 학습 과정에서 온라인상 개인정보를 무단으로 수집하는 문제 등이 수면 위로 떠올랐다. 일론 머스크 테슬라 최고경영자(CEO)와 스티브 워즈니악 애플 공동 창업자 등 IT 업계 1000여 명은 지난달 28일 공개서한을 통해 “AI 개발이 통제를 벗어나고 있다. AI의 체계 훈련을 최소 6개월간 유예하자”고 주장했다.
챗GPT의 위험성을 경고하는 목소리는 미 안보 당국에서도 나오고 있다. 롭 조이스 미 국가안보국(NSA) 사이버보안국장은 11일 미 전략국제문제연구소(CSIS) 대담에서 “챗GPT가 피싱 공격에 활용될 수 있다”고 지적했다. 그는 미 국방부 등 정부 기관에 대한 피싱 e메일 공격을 언급하면서 “악의적인 외국인 사용자가 원어민 수준으로 변환된 영어 텍스트로 피싱을 활용하거나, 공격 대상자에게 접근하기 위해 배경 지식을 쌓는 데 챗GPT가 활용될 수 있다”며 “AI가 가까운 미래에 해커를 대체하진 않겠지만 AI는 해커들을 더 효과적으로 만들고 최적화시킬 것”이라고 경고했다.
챗GPT 등장 이후 전 세계는 AI 규제 논의에 나섰다. 이탈리아 정부는 지난달 31일 챗GPT 사용을 일시 금지했다. 챗GPT가 개인정보를 무단 수집했고, 접근 연령 제한을 두고 있지 않다며 관련 규정을 준수할 때까지 챗GPT가 서비스돼선 안 된다는 것이다. 20일 내 이탈리아 정부에 추가 조치를 회신하지 않으면 연 매출액의 4% 또는 최대 2000만 유로(약 290억원)의 벌금을 부과할 수 있다고 통보했다.
독일·프랑스·아일랜드에서도 챗GPT 금지 방안을 검토하고 있다고 로이터는 전했다. 유럽은 유럽연합(EU) 차원의 포괄적 AI 규제 법안을 추진하고 있다. 중국 국가인터넷정보판공실은 11일 “(AI가 생성하는 내용은) 사회주의 제도 전복, 국가 통일 파괴 및 사회 질서를 교란할 수 있는 내용을 포함해서는 안 된다”며 “관련 부처의 요구가 있으면 알고리즘과 데이터의 출처를 제공해야 한다”고 명시했다.
