[View & Review] 5개년 vs 개X…문맥까지 살피는 AI로 욕설 걸러낸다

게임회사 넥슨은 욕설이나 비속어를 실시간으로 걸러내는 인공지능(AI)을 운영 중이다. 가령 게임 채팅 중에 ‘시11111X 미쳤나’라는 문구가 뜨면 자동으로 삭제하거나 마스킹(‘***’ 표시로 가리는 것)을 한다. 중간에 숫자 ‘11111’이 포함돼 있어도 100% 욕설로 판단하는 것이다.

국내 기업들의 AI윤리제도 살펴보니. 그래픽=김경진 기자 capkim@joongang.co.kr

장창완 넥슨 데이터개발실장은 1일 중앙일보와 인터뷰에서 “자체 개발한 AI 해석 프로그램을 도입해 욕설이나 비속어, 현금거래 광고 등을 걸러내고 있다”며 “이렇게 삭제·마스킹 되는 표현이 하루 수천만 건에 이른다”고 설명했다. 라임 AI 프로그램은 문맥을 통해 비속어를 판단하도록 설계됐다. 동음이의어라도 문장 안에서 앞뒤를 살펴 필터링(걸러냄)할 수 있다는 얘기다. 예컨대 ‘경제개발 5개년 계획’은 문제가 없다고 판단하고, ‘개X’라는 표현은 즉시 걸러낸다.

국내 기업들이 ‘AI 윤리’ 도입과 확대에 팔을 걷어붙이고 있다. 지난 1월 소수자 차별·혐오 발언 논란을 일으킨 챗봇 서비스 ‘이루다’ 사태가 직접적인 계기가 됐다. 보다 근본적으로는 종종 윤리 이슈가 기술 발전을 가로막는 ‘장애물’처럼 여겨진 데 비해, AI는 개발 단계부터 윤리 정립이 필수 요소여서다. 김병필 KAIST 기술경영학부 교수는 “AI가 소비자의 신뢰를 얻기 위해서는 기업이 윤리에 투자하는 것은 기본 중의 기본”이라고 강조했다.

카카오는 2018년 국내 기업 중 최초로 AI 알고리즘(컴퓨터가 문제를 해결할 수 있도록 만든 명령어) 윤리 기준을 마련해 발표했다. AI 프로그램을 통해 성차별·인종차별 등 사회적 차별이 발생하는 것을 막겠다는 게 핵심이다.

특히 챗봇 서비스의 경우 대화 전체로 봐서 시빗거리가 될 수 있는 ‘고맥락 대화’ 필터링에 주력하고 있다. 김응균 카카오엔터프라이즈 AI랩 자연어처리팀장은 “혐오·차별 표현이 대부분 특정 대상을 가리키는 경우가 많아 이들이 주어나 목적어로 쓰였을 때를 면밀히 살핀다”라고 말했다. 가령 지난해 모욕죄 판결 논란이 있었던 ‘확찐자’라는 단어의 경우 ‘○○는 확찐자야’라고 지칭하는 대상이 있을 때 삭제하는 방식이다.

네이버도 올해 2월 서울대와 협업해 ‘네이버 AI 윤리 준칙’을 제정했다. ▶부당한 차별 금지 ▶모든 과정에서 유해하지 않은 서비스 설계 ▶사용자의 프라이버시 보호 등이 담겨 있다. 최근엔 자연어처리 분야 AI 스타트업 튜닙에 투자하기도 했다. 튜닙은 다양한 성격과 감정을 반영, 자연스럽고 깊은 대화를 이어갈 수 있는 ‘멀티 페르소나 챗봇’을 개발 중이다.

스마일게이트는 지난해 엔터테인먼트 사업에 특화한 AI 센터를 만들었다. 현재는 ‘휼릭(HuLiC·Human-Like Competition) 프로젝트’를 진행 중이다. AI가 사용하는 언어가 얼마나 인간에 가까운지, 윤리적 기준에 얼마나 부합하는지를 연구하기 위한 데이터들을 구축한다.

삼성전자·LG전자·SK하이닉스 등 제조업체의 움직임도 활발하다. 삼성전자는 국내 기업 최초로 AI 국제협력단체인 ‘PAI’(Partnership on AI)에 가입했다. 삼성전자는 지속가능경영 보고서를 통해 “AI 윤리의 핵심 원칙은 공정성·투명성·책임성”이라며 “언제 어디서나 안전하고, 사람에게 도움을 주는 AI 서비스를 제공하겠다”고 강조한다.

대표적인 게 음성 AI 비서 ‘빅스비’ 서비스다. 빅스비는 불공정한 편견이 조장되지 않도록 AI 윤리 원칙을 준수해 설계됐다. 특히 각국의 법규와 사회적 윤리, 소비자 정서 등을 고려해 자체적으로 ‘민감어 처리 정책’을 만들어 시행 중이다. 여기에 더해 시시각각 달라지는 AI 관련 동향과 사회 이슈를 감지해 해당 데이터베이스에 지속해서 반영하고 있다.

삼성전자는 또 올해 전문가 연구지원 사업 중 하나로 AI 윤리를 선정했다. 김건희 서울대 컴퓨터공학부 교수는 삼성의 지원으로 AI 기술 발전에 따라 발생할 수 있는 개인정보 침해, 편향 등의 문제를 해결하는 연구를 진행할 예정이다.

SK하이닉스는 지난해 미국 실리콘밸리에 AI 연구·개발(R&D) 전문기업인 가우스랩스를 설립했다. 세계적인 데이터과학 전문가인 김영한 미 캘리포니아 샌디에이고대(UCSD) 교수를 최고경영자(CEO)로 영입했다.

문제는 전문인력 확보다. 과학기술정보통신부에 따르면 내년에만 국내에서 필요한 AI 인력은 6400명가량 된다. 하지만 한해에 배출되는 AI 전공자는 1000명 미만이다. 한국소프트웨어정책연구소에 따르면 최근 5년간 국내에서 배출한 AI 인력은 석·박사급 1781명을 포함해 4년제 대학 AI 관련 학과 졸업생(1770명), 전문대 졸업생(602명)을 모두 합쳐도 4153명에 그쳤다. 이런 추세라면 앞으로 10년 이상 AI 인력을 원만하게 공급하기 어렵다는 뜻이다.

이동현 경북대 경영학부 교수는 “AI 윤리 문제가 부각되면서 현재의 AI 인력 수급 양적·질적 미스매칭 현상이 더 심해질 것”이라며 “대학 정원 확대, 학과 신설 등을 통해 인재 공급 파이프라인을 과감하게 늘려야 한다”고 강조했다.

권유진 산업2팀 기자 kwen.yujin@joongang.co.kr