초임 검사가 총장 장난질? 이원석 딥페이크 만든 '당돌 이유'

중앙일보

입력

업데이트

“올해 제 목표는 히말라야 16좌를 완등하는 것입니다. 구성원들도 함께 등반하면 좋겠습니다.”

이원석 검찰총장이 ‘히말라야를 오르겠다’는 영상이 지난달 9일 검찰 내부망에 올라왔다. 차분한 평소 말투 그대로였다. ‘에베레스트 등정에 앞서 기자들의 질문에 대답하는 모습’이라는 제법 그럴듯한 사진도 함께였다.

그러나 반전. 영상은 이 총장의 실제 신년사 영상에 가짜 음성을 합성한 딥페이크였다. 사진도 마찬가지였다. ‘검찰총장 딥페이크’를 제작한 주인공은 놀랍게도 3년차 평검사인 임동민 서울중앙지검 검사(31·변호사시험 8회)였다.

임동민 검사가 지난 2일 서울 서초구 서울중앙지검에서 중앙일보와 인터뷰하고 있다. 우상조 기자

임 검사는 “일반인도 20분이면 인공지능(AI) 총장을 만드는 시대인 것을 검찰 구성원들에게 알리고 싶었다”고 했다. 지난 2일 서울 서초구 서울중앙지검에서 임 검사를 만났다. 인터뷰에 앞서 여러 선배 검사들이 “똑똑한 친구니 잘 부탁한다”는 연락을 보내왔다.

‘AI 총장’ 만든 당돌한 평검사

검찰총장 딥페이크를 만든 계기는.

해외 웹사이트에서 AI에게 총장님 음성 20분 분량을 학습시켰더니 약 20분 만에 가짜 영상을 만들 수 있었다. 우리가 수사 현장에서 만나는 증거들이 언제든 허위일 수 있다는 경각심을 환기하고자 ‘모두가 아는 인물이 누구일까’ 생각하다가 불경스럽게도 총장님을 대상으로 했다. 내부망에는 총장님 허락 받고 올렸다(웃음).

검찰 선배들 반응은 어땠나.

사실 걱정이 많았다. 어떻게 초임 검사가 회장님(총장)으로 장난을 치냐고 하실까 봐…. 그런데 한 분도 그러지 않았다. 대부분의 선배들이 ‘어려운 주제를 간단하게 설명해줘서 고맙다’, ‘나도 해보게 사이트를 알려달라’ 등 긍정적으로 받아주셨다.

임 검사는 연세대 정치외교학과와 서울대 로스쿨을 졸업한 뒤 해군법무관으로 병역을 마치고 2022년 8월 서울중앙지검 검사에 임관했다. 서울중앙지검 형사7부와 공판2부를 거쳐 지금은 ‘민감사건 블랙홀’이라는 형사1부의 막내다. 한때 배우를 꿈꾸기도 했다는 그는 검사가 된 이유를 묻자 “얼굴이 안 되지 않냐”며 “갑자기 공부를 잘하게 돼서”라고 소탈하게 웃었다.

밤낮없이 일하기도 벅찬 막내 검사 생활이지만 그는 계속 논문을 쓰고 책을 펴낸다. 금융파생상품, 형사공탁, 형사법 등 주제도 다양하다. 지난해엔 ‘생성형 인공지능 기술의 규제 방향에 대한 입법론적 고찰’이라는 논문을 공동집필했다. “요즘 검찰은 예전과 달리 젊은 검사들이 새로운 주제를 연구하는 걸 장려한다”고 한다.

“AI 방파제 없다…사업자엔 표시의무, 이용자엔 행위규제”

생성 AI는 어떻게 관심을 갖게 됐나.

같이 일했던 선배가 상상력이 풍부한 타입이었다. 매일 선배 옆에 붙어 ‘AI가 발달하면 우리 회사는 어떻게 될까?’ ‘100년 뒤 검찰은 뭘 할까?’ ‘AI로 이런 범죄도 가능한데 지금 규제가 되나?’ 이런 얘기를 나누다 같이 논문까지 쓰게 됐다.

왜 생성 AI를 규제해야 하나.

전세계적으로 적정한 규제가 필요한 시점이다. 지난해 3월 AI ‘미드저니’가 생성한 도널드 트럼프 전 대통령의 경찰 체포 사진, 그해 11월 기시다 후미오 일본 총리의 가짜 음담패설 영상 등을 보라. 진실과 거짓을 오인시키는 생성 AI의 문제점이 수면 위로 드러나고 있다.

어떤 국내법이 필요하다고 보나.

AI 사업자에게는 ‘이 생성물은 AI가 만든 것’이라고 알아보기 쉬운 워터마크를 표시할 의무를 부과하고, 이용자에게는 명예훼손·타인사칭·범죄이용 등 ‘나쁜 목적으로 AI를 써선 안 된다’고 몇몇 행위를 제한하는 특별법 내지는 임시법이다. 두 응급조치만으로도 AI와 실제를 구분하기 쉬워진다. 사업자는 간편한 기술적 조치를 통해 손쉽게 표시의무를 준수할 수 있고, 이용자는 명확히 금지된 행위를 제외하고는 자유롭게 행동할 수 있다.

임동민 검사가 지난 2일 서울 서초구 서울중앙지검에서 중앙일보와 인터뷰하고 있다. 우상조 기자

이미 나와있는 법안들이 있는데.

지난해 8월 기준 21대 국회에서만 AI 관련법이 13개 발의됐다. 하지만 해외처럼 생성 AI의 특징을 구체적으로 고려한 법안은 찾아보기 어렵다. 상당수의 발의안이 활용 분야에 따라 금지 AI, 고위험 AI, 저위험 AI 등으로 AI를 구분했는데, 생성 AI는 고위험군이 아니라 관리·감독의 대상이 되기엔 난점이 있다.

왜 임시법인가.

본질적이고 포괄적인 법안은 기술 전문가, 산업계, 법조계, 국회 등이 오래 숙고해서 만들어야 한다. 자칫하면 이제 막 성장하는 산업을 죽이는 과잉 규제로 흐르기 십상이어서다. 다만 우리 주장은 이미 몰려오는 쓰나미에 대비할 ‘임시 방파제’가 필요하다는 것이다.

해외에선 어떤 논의가 나오나.

미국은 지난해 11월 기업의 표시의무 등이 담긴 포괄적 AI 행정명령을 발표했다. 유럽연합(EU)은 지난해 12월 AI 법(AI Act) 최종 합의에 이르러 올해 확정 입법안이 통과할 것으로 예상된다. AI 악용을 두고는 어느 나라나 같은 문제에 당면해 있다. 글로벌 규제 동향이 크게 다르지 않다.

국내에서도 생성 AI를 악용한 범죄는 현실이 되고 있다. 서울중앙지검은 지난 1일 챗GPT로 ‘가짜 탄원서’를 작성한 마약사범을 재판에 넘겼다. 생성 AI가 악용된 첫 기소 사례다.

대검 음성분석실은 가족 목소리 등을 본딴 AI 보이스피싱 범죄에 대응하기 위해 2024~2027년 ‘딥보이스 탐지 기술 개발’ 중장기 연구를 수행할 계획이다. 네이버·KT 등 음성 데이터베이스를 가진 기업들과 협력해 딥보이스 기술과 특징을 분석하고, 음성 조작 여부 판단에 활용한다는 내용이다. 정부 예산 확보를 마쳤으며, 오는 4월중 입찰공고를 낸다.

“AI 챗봇, 인간 착취…신기술 범죄는 젊은 검사들 사명”

활동 중인 대검 AI·블록체인 커뮤니티는 어떤 곳인가.

대검에 여러 전문검사 커뮤니티가 있다. 그중 하나인데, 젊은 검사들이 자유로운 분위기에서 함께 첨단기술을 공부하고 글도 쓴다. 최근엔 메타버스 성폭력, 생성 AI 악용 등에 관한 세미나를 열었다.

신기술은 범죄에 어떤 영향을 미칠까.

하나는 기존 범죄의 진화다. 예컨대 부동산 붐 시절에 횡행했던 기획부동산 사기는 이제 코인이나 NFT로 아이템이 바뀌었다. 최근 챗GPT 가짜 탄원서 사건은 10시간, 100시간 걸리던 위조 사문서를 AI가 5분, 10분이면 쓰는 걸로 악화한 사례다. 두번째는 아예 새로운 범죄의 창설이다. 딥페이크를 통한 합성 포르노 등이 대표적이다.

미국의 AI 친구 앱 ‘레플리카’ 개발사 루카가 최근 새로 출시한 성인용 AI 데이팅 앱. 사진 루카

최근 주시 중인 것도 있나.

대화형 AI를 유심히 보고 있다. 생성 AI가 챗봇처럼 인간과 상호작용하는 형태가 되면 인간을 경제적·정신적으로 착취하기 쉬워진다. ‘레플리카(Replika)’라는 미국의 유명 챗봇 앱이 그 예다. 대화할 AI를 취향대로 꾸밀 수 있는데, 유료 구독자에게는 성적 수위가 높은 대화를 제공한다. AI에게 반지 같은 유료 아이템을 선물할 수도 있다. 이 점이 비판받자 운영진은 아예 19금 기능이 강화된 성인용 앱을 새로 출시했다. 마음에 드는 AI를 스와이프해서 고르는 ‘AI 버전 틴더’ 같은 앱이다. 실존하지 않는 사랑을 빌미로 금원을 착취한다는 점에서 ‘로맨스 스캠’과 본질적으로 다르지 않다고 본다. 지난해 3월엔 벨기에의 한 남성이 챗봇의 조언에 따라 자살한 사건도 있었다.

신종 범죄에 관심이 많은 특별한 이유가 있나.

법집행기관은 시대마다 사명이 있다고 생각한다. 예를 들어 1990년대는 ‘범죄와의 전쟁’으로 검찰이 조직범죄를 열심히 수사했다. 그 결과 적어도 백주대낮에 조폭이 활개치는 모습은 많이 사라졌다. 우리 세대 검찰에 사명이 있다면 신기술을 악용한 범죄가 아닐까 한다. 검사는 국가와 국민을 지키는 사람이라고 배웠다. 첨단기술을 이용한 신종 범죄가 기승을 부려도 묵묵히 국민의 곁을 지키는 검사가 되고 싶다.