[팩플] 생성AI로 진화하는 악성광고…구글 1년간 55억 개 차단

중앙일보

입력

생성 AI(인공지능) 발달로 더 많은 온라인 악성 광고가 교묘하고 빠르게 확산하고 있다. 구글은 작년에만 55억 개 이상의 악성 광고를 차단·삭제했다. 매일 분당 약 1만 개의 광고를 규제한 셈이다.

구글 로고 [EPA=연합뉴스 자료사진]

무슨 일이야

27일(현지시간) 구글이 공개한 ‘2023 광고 안전 보고서’에 따르면 구글은 지난해 광고 정책을 위반한 55억 개의 광고를 차단·삭제했다. 2022년(52억개)보다 3억개 늘었다. 악성코드 확산 등 네트워크 남용 방지 정책을 위반한 광고가 10억 개로 가장 많았다. 금융 서비스 정책 위반 광고(2억7340만 개), 각종 사기 수법 포함 허위 진술 정책 위반 광고(2억650만 개)가 뒤를 이었다.

구글은 광고 정책을 위반한 1270만 개 광고주 계정도 차단했다. 2022년 대비 2배 증가한 수치다. 부적절한 사이트 자체를 규제한 건수도 39만5000개로 2022년(14만3000개)보다 크게 늘었다. 유명인을 사칭해 투자를 유도하는 사칭 페이지가 발견됐다면 이 페이지를 차단 조치하거나 활동을 제한시킨 건수 등이 포함된 수치다.

김영희 디자이너

세계 각국 선거철을 앞두고, 관련 허위 사실 조장 광고에 대해서도 단속을 강화했다. 구글은 “모든 선거 광고에 자금 출처를 공시하도록 하는 등 선거 광고주에 대한 신원 확인 및 투명성 요건 등을 검증하고 있다”고 설명했다. 지난해에는 5000개 이상 선거 광고의 광고주를 검증해 730만 건 이상을 삭제했다.

이게 왜 중요해

생성 AI 등 기술 발달에 따라 온라인 플랫폼에서의 사기와 속임수가 지난해부터 크게 늘었다. 미국 연방거래위원회(FTC) 자료에 따르면 지난해 소셜 미디어(SNS)에서 발생한 사기 금액은 15억 달러(약 1조8000억원) 수준이다. 올해는 전세계적으로 각종 선거를 앞두고 딥페이크 기술로 유명인을 사칭해 이용자들을 속이는 타깃 광고들이 많아졌다. 구글·메타·오픈AI 등 AI 관련 기업 20곳은 지난 2월 독일에서 열린 뮌헨안보회의에서 딥페이크를 비롯한 AI활용 허위 정보에 대응하겠다는 합의문을 발표하기도 했다. 예컨대 구글의 생성 AI가 이미지를 생성할 때 사람 눈에 보이지 않는 워터마크를 삽입하는 식이다.

더 알아야 할 것

22일 오후 서울 중구 프레스센터에서 열린 유명인 사칭 온라인 피싱범죄 해결 촉구를 위한 기자회견에서 개그우먼 송은이가 발언하고 있다. 왼쪽은 김미경 강사. 연합뉴스

플랫폼이 견고하게 벽을 쌓아도 빈틈을 노리는 악성 광고의 신종 패턴은 다양해지고 있다. 국내에서는 지난 22일 연예인·방송인 등 유명인들이 구글·메타 등 플랫폼 기업에 온라인 상 유명인 사칭 범죄를 더 적극적으로 해결해 달라는 기자회견을 열기도 했다. 이들은 “여러 차례 플랫폼에 신고해 겨우 사기 계정 1개를 지우면 다음날 10개의 사기 계정이 새로 생겨난다”고 토로했다.

구글은 이에 대해“지속적으로 변화하는 위협에 대응하고자 전담 집행 팀을 배치하고, 신뢰할 만한 과거 내역이 없는 광고주에 대해서는 ‘광고주 파악 기간(get-to-know-you)’을 적용해 광고주의 도달 범위를 제한하는 정책을 도입했다”고 밝혔다. 최근엔 네이버도 ‘그린 인터넷 캠페인’ 웹사이트와 고객센터 홈페이지 등에 유명인 사칭 광고 피해를 신고하는 창구 신설을 추진 중이다. 카카오는 지난해 12월부터 서비스 내 모든 신고 영역에 ‘사칭’ 전용 항목을 추가했다. 사칭 광고 피해 사례가 많이 발생하는 걸로 알려진 메타는 지난해 “규정 위반 사칭 계정을 단속하고 있다”는 입장을 발표한 뒤 별다른 대응을 하지 않고 있다.

홍상지 기자 hongsam@joongang.co.kr