[팩플] 전 세계 휩쓴 ‘AI 초상화’ 앱…인공지능 4대 우려, 다 현실 됐다

중앙일보

입력

프리즈마랩이 개발한 렌사 앱은 사진을 올리면 AI가 초상화를 20분 만에 그려준다. 사진 렌사 AI

‘창조하는 AI’가 실현되자 ‘AI 시대의 우려’도 현실이 됐다. 초상화 그려주는 AI가 선풍적 인기를 얻는 가운데, 인간 일자리 대체 문제와 사생활 침해, 편견 강화, 인간 데이터의 헐값 제공 등 문제들이 피부로 와 닿게 됐다.

무슨 일이야

인공지능(AI) 초상화 앱 ‘렌사(Lensa)’가 전 세계 앱 마켓에서 돌풍을 일으키고 있다. 지난 한 주 내내 미국·영국·캐나다·호주 등 서구권 국가의 구글 플레이스토어와 애플 앱스토어에서 다운로드 1위를 휩쓸었다. 미국에서는 유튜브를 제치고 아이폰 앱 매출 2위에 올랐다.

스마트폰에 렌사 앱을 깔고 얼굴 사진(셀피) 10~20장을 올리면, 이에 기반해 AI가 다양한 초상화 수백장을 20~30분 만에 그려낸다. 러시아 출신들이 미국 실리콘밸리에서 창업한 ‘프리즈마랩’이 개발했다. 원래는 사진 보정 앱이었으나, 지난달 말 AI 초상화 기능 ‘매직 아바타’를 추가한 뒤로 폭발적인 인기를 끌고 있다. 논란도 함께다.

어떤 논란이지?

AI가 콘텐트를 내놓는 시대, 기술이 가져올 4대 우려가 눈앞에 현실로 펼쳐졌다.

① 내 일자리는?
프리즈마가 공식 홈페이지에 내건 기치는 ‘사진·영상 편집의 민주화’다. “기술 없는 비전문가도 몇 초 만에 원하는 결과물을 얻게 하겠다”라고 밝혔다. 렌사 앱은 연간 3만~4만원가량의 구독료를 내는 유료 앱이다. 여기에 회당 3000~5000원을 내면 초상화 수백장을 얻을 수 있다. AI가 인간 화가나 일러스트레이터를 빠르게 대체할 것이라는 전망이 나오는 이유다.

이는 시작에 불과하다. 렌사 앱의 매직 아바타 기능은 영국의 AI 스타트업 ‘스테빌리티 AI’가 지난 8월 개발한 ‘스테이블 디퓨전(Stable Diffusion)’이라는 AI 기술을 기반으로 만들어졌다. 스테빌리티 AI는 이 기술의 코드를 오픈소스로 공개해 누구나 사용할 수 있게 했다. 이를 활용한 소비자 대상(B2C) 앱이 속속 나올 가능성이 크다. AI가 애니메이션 풍의 그림을 그려주는 ‘노벨 AI(Novel AI)’ 역시 스테이블 디퓨젼 기반으로 개발됐다.

렌사 앱에 보도사진을 입력해 AI가 만들어낸 윤석열 대통령의 초상화. 사진 렌사 AI

② 내 프라이버시는?
일반 소비자들 사이에서 가장 먼저 나온 우려는 ‘동의 없는 노출 사진 생성’이다. 원천 기술인 스테이블 디퓨전에는 이를 방지하는 필터가 적용돼 있다. 그러나 테크크런치 등 외신이 렌사 앱에서 실험한 결과는 달랐다. 일반인의 셀피 5장에, 누드모델 사진에 얼굴만 일반인 것으로 합성한 사진 5장을 섞어서 렌사 앱에 입력했더니, 렌사가 일반인의 누드 그림을 내놓았다는 것. 누구든지 타인의 얼굴 사진 몇 장만 있으면 동의 없이 부적절한 이미지를 만들 수 있다는 얘기다.

렌사 측은 외신들의 지적에 대해 “우리 앱은 누드 사진 입력을 금하고 있으며, 방지 필터도 갖췄다”면서도 “고의적 생성은 막기 어렵다”라고 했다. “누군가 나쁜 일을 하기로 마음먹으면 어떤 도구도 무기가 되지 않느냐”라고 항변도 했다. 테크크런치는 “이제는 몇 달러와 스마트폰만 있으면 누구나 타인의 생생한 노출 이미지를 얻는다”며 “윤리적 악몽”이라고 보도했다. 정상조 서울대 법학전문대학원 교수는 “사람들은 사적인 사진을 소셜미디어에 스스로 공개하지만, 자신이 통제할 수 없는 범위의 공개는 원치 않는다”며 “이러한 프라이버시의 경계를 어떻게 지킬 것인가가 앞으로의 과제”라고 말했다.

③ 내 자존감은?
렌사는 서양인과 동양인에 대해 다소 상이한 이미지를 내놓는다. 기자의 사진을 렌사에 입력해 나온 이미지 중 다수는 중국풍의 초상화로, ‘서양인이 생각하는 동양인’의 이미지였다.

AI 초상화 앱 렌사가 생성한 이미지들. '서양이 생각하는 동양'의 이미지가 반영됐다. 사진 렌사 AI

외신들은 유색 인종 청소년들이 자존감에 영향을 받을 것이라고 지적한다. 뉴욕타임스는 지난 7일 렌사 열풍을 보도하며 “이 앱이 피부를 더 하얗게 보이게 하고 백인에 어울리는 이미지로 만들고 있다”고 했다. 외신의 이런 지적에 대해 렌사의 안드레이 유솔트세프 공동창업자 겸 최고경영자(CEO)는 “AI가 온라인 상의 대량 데이터로 학습했고, 거기에는 현존하는 편견이 담겼기에 AI의 창작물도 그럴 것”이라고 답했다.

④ 내 생체 데이터 값은?
얼굴 사진은 대표적인 인간의 생체 데이터다. 안면 인식을 통해 개개인의 식별도 가능하다. 렌사 개발사인 프리즈마랩 공동창업자들은 대부분 러시아 출신이며, 일부는 러시아의 국민 포털 얀덱스(Yandex) 재직 경력이 있다. 서구 언론들은 이 점을 보도하며 렌사가 얼굴 사진 데이터를 대량 수집하는 것에 경계심을 내비친다.

사용자들은 렌사가 그린 초상화 중 마음에 드는 것을 따로 저장할 수 있는데, 이 과정에서 렌사는 ‘인간이 선택한 좋은 그림’이 무엇인지를 빠르게 학습할 수 있다. 얼굴 사진을 비롯한 인간의 생체 데이터는 데이터 중에서도 대량 수집이 어려운 축에 속한다. 사용자는 자기 돈을 내가며, 렌사의 AI 모델을 학습시키는 셈.

렌사의 이용 약관에는 “이용자가 올린 사진은 24시간 이내에 삭제한다”고 적었다. 그러나 김기응 KAIST AI 대학원 교수는 “24시간이면 이미 데이터 학습이 완료된 상태”라며 “AI 코드 기술의 진입장벽은 높지 않고, 그걸 활용해 누가 더 데이터를 많이 확보해 더 좋은 모델 학습을 시키느냐가 선두와 후발의 격차가 될 것”이라고 했다.

생성(Generative) AI, 현황은

생성 AI란, 사용자가 입력한 단어·문장·이미지 등의 정보를 바탕으로 그에 맞는 이미지·영상·텍스트를 만들어주는 AI다. 창조하는 AI인 셈. 이미지 생성 AI로는 오픈AI의 달리(DALL-E2)와 구글의 이마젠(Imagen)이 유명하다. 영상을 생성하는 AI의 대표주자로는 메타의 메이크어비디오(make-a-video)와 구글의 페나키(Phenaki)가 있다.

구글의 생성 AI '이마젠 비디오'가 만든 영상. '셀카 찍는 판다'라는 텍스트에 따라 생성됐다. 사진 연합뉴스

생성 AI 기업들은 경기 위축기에도 투자자들의 주목을 받고 있다. AI로 온라인 광고 문구나 블로그 게시물 등을 만드는 재스퍼, 스테이블 디퓨전의 개발사 스테빌리티 AI는 모두 지난 10월 1억 달러 이상 투자를 받아 유니콘 기업(기업가치 10억 달러 이상 비상장사)에 올랐다.

국내 생성 AI로는 네이버의 클로바, 이루다 개발사 스캐터랩, 광고문구 생성 AI ‘뤼튼’의 뤼튼테크놀로지 등이 있다. 클로바는 AI 더빙에 활용될 음성 데이터를 제공할 ‘보이스 메이커’의 일반인 지원을 상시 받고 있다. 최근에는 ‘엄마의 목소리를 남긴다’며 별도 이벤트를 벌여 자원자를 모집했다. 선정된 자원자는 여러 문장을 읽어 자신의 음성 데이터를 네이버에 무료 제공하고, 네이버는 이렇게 만들어진 AI 더빙을 일반에 무료로 제공한다. 김기응 KAIST 교수는 “앞으로 소프트웨어 개발 등 특정 영역에 최적화된 생성 AI들이 개발돼 주로 기업 대상(B2B)의 다양한 서비스가 나올 것”이라고 내다봤다.