오피니언 디지털 세상읽기

생성형 AI와 포르노

중앙일보

입력

지면보기

종합 25면

박상현 오터레터 발행인

박상현 오터레터 발행인

오픈AI는 올해 초 간편한 동영상 생성기능 소라를 발표해서 세상을 놀라게 했다. 몇 줄의 프롬프트만으로 영화에 버금가는 영상을 만들 수 있다면 앞으로 누구나 자기가 원하는 포르노 영상을 직접 만드는 세상이 될 거라고 예견하는 건 전혀 억측이 아니다. 현실에서 그렇게 할 수 없는 것은 기술의 부족이 아니라, 오픈AI가 정책 차원에서 음란물 제작을 위한 프롬프트를 허용하지 않기 때문이다.

하지만 현재 세계에서 가장 인기 있는 웹사이트 20개 중 3개가 포르노 사이트인 것에서 알 수 있듯, 사람들이 새로운 기술을 음란물에 사용할 것은 불 보듯 뻔한 일이다. 지난주 오픈AI가 AI 포르노를 “안전하게” 만드는 방법을 찾겠다고 발표한 것은, 바람직하지 않다고 해서 전면 금지하는 것보다는 차라리 허용한 후에 개입·관리하는 게 낫다는 판단 때문이다. 가령 실제 인물의 얼굴을 사용하거나, 아동 성애물을 만들 수 없게 하는 게 그렇다. AI를 누드 이미지 생성에 절대 사용할 수 없게 하는 것은 예술적 목적으로 사용하는 것까지 막을 수 있기 때문에 선택적 허용은 필요하다는 주장도 있다.

아무리 조심한다고 해도 AI가 만들어내는 포르노 이미지가 무해할 것으로 생각해서는 안 된다. 실제 아동이 출연하지 않는 아동 성애물도 대부분의 나라가 금지하는 이유는 그런 이미지, 영상이 돌아다닐 경우 현실의 아이들이 성적 대상화될 수 있기 때문이다. 그렇다면 성인들은 상관없다고 할 수 있을까? 포르노를 전면 금지해야 한다고 주장하는 사람들은 궁극적으로 음란물이 무해할 수는 없다고 보는 것이다. 문제는 과거 미국의 금주법처럼 인간의 욕망과 관련해서는 현실에서 완전한 금지가 작동한 적이 없기 때문에 제한적으로 허용하고 규제·관리하는 것이 최선, 아니 차악이라고 보는 것이다. AI 기업들이 내린 결론도 다르지 않다.

박상현 오터레터 발행인