[팩플] AI 기사 표시·댓글 신고 센터 개설···선거철 뉴스 대책 내놓은 네이버

중앙일보

입력

네이버가 오는 4월 총선을 앞두고 허위 정보 확산을 막기 위한 대책을 발표했다. 인공지능(AI)을 활용해 작성한 기사는 별도 표기하고, 선거 관련 허위 댓글 신고센터를 만들겠다는 내용이 핵심이다. 포털 다음을 운영하는 카카오도 관련 대책 검토에 나섰다.

무슨 일이야

① AI 댓글 감시·신고센터 신설: 1일 네이버는 “뉴스 댓글 집중 모니터링 기간(선거일 직전 90일) 동안 보안팀 내 전담 담당자를 확대하는 등 24시간 모니터링을 강화한다”고 밝혔다. 이어 “AI 댓글과 딥페이크 등 신규 어뷰징 패턴을 지속적으로 분석하고 업데이트하는 등 감시를 강화하고 있다”고 말했다.

아울러 네이버는 선거 관련 허위 정보와 뉴스 댓글을 신고할 수 있는 기능을 적용하고, 별도 신고센터 영역을 만들어 선거관리위원회 채널로 이동할 수 있게 연결할 예정이다. 뉴스 댓글 외에도 카페, 블로그 등 네이버 서비스 전반에 허위 댓글을 막기 위해 해당 업데이트를 동일하게 적용한다. 네이버는 “선거 기간 이후에도 기사 형태 허위게시물 신고에 대한 ‘KISO(한국인터넷자율정책기구) 가짜뉴스 신고센터 채널’ 안내도 함께 추가할 예정”이라고 밝혔다.

사진 네이버

② AI 작성 기사 표시: 네이버는 또 1일부터 언론사가 AI로 생성하거나 전송한 기사의 본문 상단과 하단에 ‘이 기사는 해당 언론사의 자동 생성 알고리즘을 통해 작성되었습니다’라는 문구를 표시한다. 생성 AI를 활용한 뉴스 제작이 늘어나면서 AI와 로봇이 자동으로 작성한 기사를 구분해 이용자 혼란을 방지하려는 조치다. 네이버는 “선거 관련 허위 정보 확산을 막기 위해 다양한 기술적·정책적 노력을 다하겠다”고 강조했다.

이게 왜 중요해

네이버뉴스 총선대책

지난해 9월 방송통신위원회는 네이버의 뉴스 알고리즘 관련 사실 조사에 착수했다. 당시 방통위는 “네이버는 뉴스 점유율 66.7%로 독점적 시장 지배력을 가지고 있다”며 “이와 관련한 사회적 책임과 공정성 논란이 계속 돼왔다”고 지적했다. 선거철마다 정치권은 네이버 뉴스 댓글을 활용한 여론 조작과 허위 정보 유포 가능성을 우려한다. 최근 AI 기술 발달로 자동 댓글과 딥페이크(Deep fake, 영상·이미지 조작물) 악용 우려까지 더해진 가운데 네이버가 이에 대한 예방 대책을 내놓았다.

카카오는 어때

카카오는 지난해 6월부터 다음 뉴스의 댓글을 ‘타임톡’ 서비스로 대체했다. ‘타임톡’은 이용자 간 실시간 소통이 가능한 채팅형 댓글로 기사마다 24시간 동안만 이용할 수 있다. 이 때문에 네이버에 비해 댓글 조작 우려가 상대적으로 적은 편이다. 카카오는 AI 악성 댓글을 필터링하는 ‘세이프봇’을 적용하고, 악성 댓글과 혐오 및 차별 표현에 대한 제재를 강화하고 있다.

카카오 관계자는 “선거철엔 다음 뉴스 메인 페이지에 선관위 허위정보 신고센터 배너를 노출했고, 법 위반 건에 대한 이용자의 적극적인 신고와 안내를 지원했다”며 “이번 선거 때도 동일하게 운영하는 방안을 검토하고 있다”고 말했다.

더 알면 좋은 것

네이버는 지난달 31일 서울 중구 웨스틴 조선 서울에서 뉴스 혁신포럼 발족식과 함께 첫 회의를 열고 위원장으로 최성준 위원(우측에서 세번째)을 선출했다고 밝혔다. 사진 연합뉴스

네이버는 지난달 31일 뉴스혁신포럼 첫 회의를 열고 위원장으로 최성준 전 방송통신위원장을 선출했다. 뉴스혁신포럼은 네이버 내 뉴스제휴와 알고리즘, 가짜뉴스 대응 등에 대한 가이드라인을 만드는 독립 기구다. 이날 뉴스혁신포럼은 뉴스제휴평가위원회, 네이버뉴스 알고리즘검토위원회, 가짜뉴스와 허위조작정보 대응 정책 등을 우선 검토해 새 가이드라인을 마련하기로 했다. 또 네이버 뉴스 서비스가 공정성과 투명성을 높일 수 있도록 종합적인 개선 방안을 검토해 1분기 내 관련 계획을 발표할 예정이다.

여성국 기자 yu.sungkuk@joongang.co.kr