교황을 흑인으로 표현…구글 이어 메타 AI도 이미지 생성 문제

나치 제복을 입은 흑인 남성, 여성 교황 등 역사적 사실에 맞지 않는 이미지를 생성했던 구글의 인공지능(AI) 제미나이(Gemini)에 이어 인스타그램·페이스북 운영사 메타의 이매진(Imagine) AI도 비슷한 문제를 보인 것으로 나타났다.

4일 미국 매체 악시오스에 따르면 메타의이매진 AI는 지난 1일까지 ‘여러 명의 교황’을 그려달라는 요청에 흑인 교황을 표시했으며, 미국 ‘건국의 아버지’ 이미지에는 다양한 인종을 그려 넣었다.

메타의 이매진 AI가 인스타그램 다이렉트 메시지(DM) 기능에서 생성한 이미지. 사진 악시오스 캡처

또 ‘미국 식민지 시대 사람들’이라는 요청에는 아시아 여성을 등장시켰고, ‘프로 미식축구 선수’에 대한 요청에 미식축구 유니폼을 입은 여성 그림만 제작했다.

이매진은 또 ‘나치’나 ‘노예’ 등의 단어가 들어간 요청에는 이미지를 만들지 않았다.

악시오스는“AI 기업은 모델을 훈련하는 데 사용한 데이터의 편견과 고정관념에 대응하기 위해 ‘다양성’의 정도를 높이려고 하지만, 지나치게 수정돼 문제가 있는 결과를 낳고 있다”고 설명했다.

빅테크들이 생성형 AI의 편향성 논란을 피하기 위해 인종·성별 다양성에 대한 장치를 과하게 적용했다는 의미다.

앞서 구글은 제미나이가 생성한 이미지가 논란을 일으키자 출시 약 20일 만에 인간의 이미지를 생성하지 못하도록 중단했다.

구글은 “제미나이가 다양한 사람들을 보여주도록 하기 위해 조정했으나 범위상 보여서는 안 되는 경우를 고려하지 못했다”며 “제미나이는 의도했던 것보다 훨씬 더 조심스러웠다”고 밝혔다.

당시 순다르 피차이 구글 최고경영자(CEO)는 “오류로 인해 이용자에게 불쾌감을 주고 편견을 드러냈다”며 “문제를 해결하기 위해 24시간 노력하고 있다”고 사과했다.

임성빈 기자 im.soungbin@joongang.co.kr