디지털 경제 누구나 공정하게 사용할 수 있어야

인간과 온라인 플랫폼의 공존 조건

김두식 법무법인 세종 대표변호사 겸 국제통상법센터장

디지털 경제가 확대되고 있다. 글로벌 디지털 경제 규모는 2019년 기준 전 세계 총생산(GDP)의 4.5% 내지 15.5%에 달한다. 우리나라 전자상거래 비중은 이미 전체 거래의 30% 수준에 육박하고 있다. 나날이 발전하는 디지털 기술은 유통·서비스업은 물론, 교육·의료·금융·교통·환경·에너지 등 다양한 분야에서 혁신적인 변화를 일으키고 있다.

디지털 혁신 중요하나 부작용 속출 #인공지능 의사결정엔 편향 오류 #인간에게 기여한다는 신뢰 얻고 #법률적 장치 만들어야 발전 지속

그러나 디지털 경제의 어두운 면도 드러나고 있다. 디지털 비즈니스 모델은 개인정보를 이용하도록 설계되어 있다. 그 결과 개인정보 침해도 늘고 있다. 2018년과 2019년에 유럽연합(EU)에서만 8만9000건의 개인정보 침해가 발생했다. 2019년 기준 EU 시민의 44%는 개인정보 침해 위험 때문에 개인 인터넷 사용을 줄였다고 응답했다. 같은 기간 미국 국민의 81%는 디지털 경제의 이익보다 개인정보 침해 위험이 크다고 믿고 있다고 한다.

인공지능(AI)이 본격적으로 활용되면서 개인정보 불법 사용, 서비스의 비윤리성 내지 반사회성 문제도 제기되고 있다. 지난 1월 국내 최초로 출시된 인공지능 챗봇 ‘이루다’가 개인정보 불법수집, 희롱·혐오 발언 논란으로 서비스 시작 2주 만에 문을 닫은 것이 그런 예다. 해외에서는 2015년 아마존의 채용 전문 AI가 남성 선호 문제로, 구글의 AI 기반 포토 서비스는 흑인을 고릴라로 태깅하는 인종차별 논란으로, 2016년 마이크로소프트의 챗봇 ‘테이’는 욕설과 인종차별 논란으로 곤욕을 치렀다.

AI가 정치 영역에 손 뻗치기도

김두식의 이코노믹스

케임브리지아날리티카 스캔들은 인공지능이 정치의 영역에까지 손을 뻗친 사례다. 이 회사는 8700만건의 유권자 개인정보를 사용해 그들의 심리성향을 분석하고 이를 바탕으로 특정 후보의 지지를 유도했다. 2015년과 2016년에 미국 대통령 후보 선거와 2016년 영국 브렉시트 지지운동에 개입한 것으로 알려져 세상을 떠들썩하게 만들었다.

디지털 경제의 특징은 그것이 인간의 삶 전 영역과 직결돼 있다는 데 있다. 소비자는 서비스를 이용하기 위해 자신의 신상정보 등 인격권의 일부를 제공해야 하고, 제공되는 서비스는 개인의 삶 전반에 영향을 미친다. 따라서 디지털 경제는 단순 경제논리로 바라볼 수 없다. 디지털 경제가 지속적으로 발전하기 위해서는 디지털 서비스가 인간성과 충돌하지 않고 인간의 보편적 복지에 기여한다는 신뢰를 얻는 것이 중요하다.

우선, 인공지능 기술에 대한 신뢰성 확보가 필요하다. 디지털 경제는 궁극적으로 인공지능의 자율학습 능력과 데이터 분석 능력을 적극적으로 활용하는 방향으로 진화할 것이다. 이미 AI를 통한 자동화된 의사결정(autonomous decision)이 직원의 채용 및 평가, 개인의 신용평가 등에 적용되기 시작하면서 불투명한 알고리즘과 데이터 편향성으로 인한 피해 우려가 커지고 있다. 이에 EU는 자동화된 의사결정에 대한 사업자의 활용 고지의무, 이용자의 이용 거부 및 설명 요구권, 이의제기권을 인정했고, 일부 국제협정에서도 유사한 규정이 도입됐다.

우리나라도 지난해 12월 과학기술정보통신부가 관련 학계·기업·시민단체의 자문을 거쳐 ‘사람이 중심이 되는 인공지능 윤리 기준’을 발표했다. 그러나 이제 구속력 없는 윤리 기준만으로는 부족하다. 적어도 개인의 삶에 직접 영향을 미칠 수 있는 AI의 개발 및 활용에 대해서는 피해를 본 개인을 보호할 법률적 장치 마련이 필요하다.

네트워크 효과로 ‘승자독식’ 발생

온라인 플랫폼 시장의 건전한 발전을 도모할 합리적인 규칙도 필요하다. 현재 디지털 경제는 온라인 플랫폼이 주도하고 있다. 디지털 경제에서 창출되는 미래가치의 60~70%를 온라인 플랫폼이 차지할 것으로 예상하고 있다. 문제는 온라인 플랫폼 시장이 소수의 거대 플랫폼 기업들에 의해 과점되고 있다는 점이다. 온라인 플랫폼 시장에서는 소위 네트워크 효과 등으로 승자독식 현상이 쉽게 일어날 수 있기 때문이다.

이런 상황에서 온라인 플랫폼 시장이 공정하게 작동되도록 할 필요가 커졌다. 시장에 대한 과잉규제는 지양하면서 중소사업자들이 공정한 조건으로 플랫폼을 이용할 수 있도록 하고 허위·불법거래 등으로부터 소비자를 보호하는 것이 과제다. EU가 공표한 디지털 시장법안은 적용대상 업체의 기준을 크게 높여 아직 성장하는 중견 플랫폼 기업들에 대한 불필요한 규제는 피하고 있다. 우리 정부도 현재 온라인 플랫폼 공정화법 제정을 추진 중인데, 규제의 대상과 목표에 대한 깊은 성찰이 요구된다.

다음으로, 디지털 경제에 대한 신뢰를 구축하기 위해 개인정보와 프라이버시 보호가 필수적이라는 점을 받아들여야 한다. 디지털 산업의 지속적 발전을 위해서는 오히려 개인정보 보호장치의 실효성을 높여야 한다고 본다.

‘개인정보 동의’ 만능키 될 수 없어

현재 EU 등 주요국들이 채택하고 있는 개인정보 보호 방식은 기본적으로 정보 주체의 동의나 기타 정당한 법적 근거 없이 개인정보를 수집 처리하거나 국외로 이전하는 것을 금지하는 것이다. 하지만 정보 주체의 ‘동의’를 만능키처럼 사용하는 방식의 신뢰성에 의문이 제기되고 있다. 실제로 디지털 기술을 모르는 개인들은 자기의 정보가 어떻게 이용되고 처리되는지를 이해하기 어려운 경우가 많다. 디지털 업체가 상세한 개인정보 보호 방침을 알려준다 하더라도 그 정확한 의미를 이해하는 개인은 많지 않다. 이런 정보의 비대칭 상황에서 개인의 동의만 있으면 개인정보는 보호된다고 보는 현행 제도는 재검토가 필요하다. 경제협력개발기구(OECD)에서도 개인정보 수집의 정당한 근거로 동의를 요구하는 현행 방식은 변경되어야 한다고 보고 있다.

국내에서 수집돼 국외로 이전되는 개인정보를 어떻게 보호할 것인지도 큰 문제다. 최근 정부가 발의한 개인정보보호법 개정안에서는 정보 주체의 동의가 없더라도 ‘개인정보 보호 인증’을 받은 정보수령자나 한국의 개인정보 보호 수준과 ‘실질적으로 동등한 수준’에 있다고 인정되는 국가로의 개인정보 이전을 허용한다. 중요한 것은 이런 제도의 실효성이다. 정보 주체인 개인에게 실행 가능한 사법적 구제수단을 확보해 주는 것도 중요하다. 유럽사법재판소가 미국의 개인정보 보호가 미흡하다는 이유로 미국에 대한 개인정보 보호 ‘적정성’ 결정을 무효화시킨 오스트리아 활동가 슈렘스(Schrems) 소송 사건은 시사하는 바가 크다. 이 소송은 페이스북을 상대로 한 것이었지만 결국 인터넷을 통해 대량의 데이터를 전송하는 기술 기업에 광범위한 영향을 미치게 됐다.

국가 간 규제 체계와도 조화 이뤄야

다음으로, 상호 조화되지 않는 각국의 디지털 규제체계는 디지털 경제의 지속적 발전에 가장 큰 걸림돌이라는 점에 주목해야 한다. 현재 각국의 디지털 규제체계는 천차만별이다. 이를 통일적으로 규율할 국제규범도 확립돼 있지 않다. 많은 국가가 자국에서 생산된 데이터를 자국 내 서버에 보관하도록 하는 ‘데이터 현지화’를 요구하고 있다.

게다가 미·중 디커플링이 디지털 시장에서도 심화하고 있다. 주요 7개국(G7) 국가들은 ‘신뢰에 입각한 데이터의 자유로운 이동’(data free flow with trust)을 주창하고 있지만, 이는 반대로 데이터 거버넌스에 있어서 국가 간에 심각한 상호불신 내지 시각차가 존재함을 인정하는 셈이다.

이런 분열적 상황에서 우리는 오히려 세계무역기구(WTO) 디지털 통상협상 등 국제규범 협상에 적극적으로 참여해 국가 간 디지털 규제체계를 조화시킬 수 있도록 노력해야 한다. 디지털 국제규범에서는 디지털 무역 자유화에 대한 규제의 한계가 핵심 쟁점이 될 것이다. 관련하여 국제규범에서는 소위 ‘정당한 공공정책목표’(legitimate public policy objective)에 의한 규제는 허용하면서도 무엇이 정당한 공공정책목표인지는 정의하지 않고 있다는 점에 유의해야 한다. 국내적으로 우리가 생각하는 정당한 규제 사유와 규제 형태를 종합적으로 정리하고 이를 바탕으로 국제규범 협상에 임할 필요가 있다.

한 가지 확실한 것은 국가적 차원의 총체적인 디지털 전략을 수립해나갈 필요가 있다는 점이다. 정부부처 간 혹은 정책 간 충돌을 조정할 컨트롤 타워를 만들 필요도 있다. 디지털 경제의 특성상 정부부처 간 관할이 애매하거나 중첩되는 경우도 많고, 자칫하면 규제의 경쟁으로 치닫기 쉽기 때문이다.

cambridge analytica

정치 리서치 기업 ‘케임브리지 아날리티카’는 페이스북 가입자의 정치성향과 개인 신상 데이터를 무단 수집한 것으로 드러나 사회적 물의를 일으켰다. 이 사건으로 인해 개인 정보에 대한 이해와 인식이 높아졌고, 기술 관련 기업들의 데이터 사용에 대해 엄격한 규제를 요청하는 분위기가 생겼다.

김두식 법무법인 세종 대표변호사·국제통상법센터장