10일 국회 문화체육관광위원회 국정감사장에서 유인촌 문화체육부 장관이 가수 김광석의 목소리로 노래를 부르는 인공지능 딥페이크 음원과 영상이 재생돼 화제를 모았다.
국회 문체위원장인 더불어민주당 이상헌 의원은 이날 오전 국감 본질문을 마무리하면서 딥페이크 관련 범죄가 늘고 있다는 점을 지적하며 이같은 음원과 영상을 재생했다.
이 위원장은 유인촌 장관에게 "가수 김광석씨 아시죠"라며 "즐겨듣는 김광석 노래가 있느냐"고 물었다. 유 장관이 "잘 안다. 예전에는 많이 들었다"고 하자 이 위원장은 "그러면 위원장이 장관의 목소리로 김광석 노래를 흉내 내겠다"며 노래를 틀었다.
회의장 스크린에는 유 장관이 기타를 들고 앉아 김광석의 노래 '서른 즈음에'를 부르는 음원과 영상이 상영됐다. 딥페이크 기술로 인공지능이 유 장관의 목소리를 학습해 부른 것이다. 유 장관이 "감사하다"고 답하자 장내에선 웃음이 터지기도 했다.
이 의원은 "AI에 유 장관 목소리를 학습시켜서 만들어 보았다. 그럴듯하지 않냐"며 "생성형 AI가 고도화돼 가짜뉴스와 보이스피싱 등 범죄로 이어질 가능성이 크다"고 지적했다. 그러면서 "본 위원장이 지난 5월 발의한 AI 콘텐트 표기 의무화 법안에 대해 문체부가 긍정적으로 검토해주시길 바란다”고 요구했다.
유 장관은 “제가 예전에도 뭘 좀 바꾸고 개혁하고 싶고 이런 이야기가 나오면 항상 정치적으로 해석해서 정말 힘들었다”면서 “AI 문제도 앞으로 우리가 해결해야 할 미래에 대한 과제이기 때문에, 의원들께서 협조를 해주시면 개정이 잘 될 것 같다”고 답했다.