김병필 KAIST 기술경영학부 교수
동물은 인간에게 소중한 존재다. 인류는 야생 동물을 길들여 그 역량을 십분 활용해 왔다. 산업혁명 이전까지 가축은 인류에게 없어서는 안 될 중요한 동력원이었다. 잘 길든 동물은 평생의 친구가 되기도 한다. 이제 인공지능이 그 자리를 차지하려 한다.
최근 발표되는 초거대 인공지능을 들여다보고 있노라면 인류가 야생 동물과 친해진 과정과 비슷하다는 생각이 든다.
인류 문명사와 함께해온 가축
AI도 인간과 어울리며 살아야
개인정보 보호 등 논란 불거져
신뢰·안전성 확보가 필수조건
일러스트 = 김지윤 기자 kim.jeeyoon@joongang.co.kr
인공지능 학습은 크게 두 단계로 구분된다. ‘키우기’ 단계와 ‘길들이기’ 단계가 그것이다. ‘키우기’ 단계에서는 가능한 많은 학습 데이터로 인공신경망을 가르친다. 이를 연구자들은 ‘사전학습’이라 부른다. 그 목표는 인공지능에 가능한 한 다양한 지식을 가르치고, 인공지능이 최대한의 능력을 갖추도록 하는 것이다.
두 번째 ‘길들이기’ 단계는 그 목적이 사뭇 다르다. 인공지능이 인간에 더 유용하면서도 안전하도록 가르치는 것이다. 인간이 직접 작성한 좋은 답변의 예시를 제공해서 인간은 어떤 답변을 더 선호하는지, 어떤 답변은 부적절한지를 알려준다. 인공지능이 여러 답변을 생성하게 한 다음, 인간 평가자가 가장 좋아하는 답변이 무엇인지 알려주는 방식을 사용하기도 한다. 동물을 조련하는 일과 마찬가지로 인공지능에 ‘인간의 피드백’을 주는 것이다.
이제껏 인공지능 연구는 ‘키우기’ 단계에 집중해 왔다. 인공신경망을 확장하면 무슨 일까지 할 수 있을까, 인공지능으로 과연 이런 작업도 수행할 수 있을까 하는 의문이 주된 연구 동기였다. 이에 비해 ‘길들이기’ 단계의 중요성은 종종 간과됐다.
하지만 인공지능이 무슨 일을 할 역량을 갖추고 있다고 해서 항상 인간에게 도움이 되는 것은 아니다. 야생에는 힘이 세고 빠른 동물이 많지만, 가축화에 성공한 사례는 손에 꼽는다. 그러니 인공지능을 실세계에 직접 활용하는 시점에 이르면 얼마나 잘 길들어 있는지가 중요해진다.
챗GPT의 성공은 인공지능 개발에서 ‘길들이기’의 중요성을 잘 보여준다. 챗GPT의 바탕이 된 GPT-3 모형은 이미 2020년 발표되었다. 당시 많은 이들이 GPT-3가 보여준 뛰어난 역량에 감탄했고, 큰 잠재력에 주목했다. 하지만, 이를 곧바로 현실에 적용하기는 쉽지 않았다. 윤리나 도덕과 같이 인간에게 진정으로 중요한 질문에 대해서는 제대로 답하지 못했고, 사회적 소수자에게 편향된 답변을 생성하기도 했다.
다른 비유를 들자면 2020년 당시 GPT-3는 아직 다듬어지지 않은 원석과 같은 상태였다고 할 수 있다. 원석을 잘 가공하면 유용한 광물을 채취해 낼 수도 있고, 멋진 조각상을 만들 수도 있다. 오픈AI는 GPT-3 발표 후 2년여 기간 동안 여러 개선 작업을 수행했다. 그 결과 인간이 질문한 의도를 더 잘 이해하고 유용한 답변을 내놓을 뿐만 아니라, 해로운 답변도 덜 생성하게 되었다. 챗GPT가 대중적으로 큰 성공을 거둘 수 있었던 것은 이러한 개선 작업의 공이 크다.
하지만 길들이기 단계는 여전히 많은 과제가 남아 있다. 지난달 말 이탈리아 개인정보 보호 당국이 이탈리아 내에서 챗GPT 사용을 잠정적으로 금지한 사례가 대표적이다. 챗GPT를 학습시키기 위해 이탈리아 주민의 개인정보를 무단으로 사용한 문제, 개인에 관해 부정확한 정보를 제공하는 문제, 나이 확인과 같이 아동 보호 조치가 미흡한 문제가 지적되었다. 섣부른 결정이라는 비판도 많지만, 그 문제의식은 되새겨볼 필요가 있다.
이제 인공지능이 인간과 함께할 정도로 충분히 길들었는지 살펴야 한다. 그 판단 과정에서 사회 구성원 모두의 충분한 논의에 기반한 합의가 필요하다. 지난주 유럽의회가 인공지능 규제 법안 초안에 대한 합의에 이르렀다는 소식이 전해졌다. 우리나라도 인공지능 신뢰성과 안전성 확보를 위한 법률을 제정하는 절차를 진행하고 있다.
더 나아가 몇몇 법학자들은 인공지능을 법적으로 동물과 같이 취급해야 한다고도 주장한다. 민법상 동물을 키우는 사람은 그 종류와 성질에 따라 상당한 주의를 기울여야 한다. 만약 그러지 않아 그 동물이 타인에 손해를 끼치면 배상할 책임이 있다.
이제 인공지능 개발자나 이용자도 마찬가지로 그 종류와 성질에 따라 상당한 주의를 기울여야 한다. 자율주행차나 의료 로봇은 인간의 생명에 위해를 가할 수 있고, 공공 서비스에 활용되는 인공지능은 우리의 권리와 자유를 침해할 수 있다. 그만큼 인공지능의 신뢰성과 안전성 확보가 더 중요하게 된다.
과거 인류가 야생 동물을 데려와 가축으로 삼는 과정에도 적잖은 위험이 따랐을 것이다. 야생 동물이 함부로 날뛰지 않도록 여러 주의를 기울여야 했을 것이다. 이제 인공지능의 역량은 더욱 가파르게 성장하리라 전망된다. 인공지능이 인간의 통제 범위를 넘지 않고, 인간에게 유익하도록 잘 길들이는 일이야말로 우리 세대에 주어진 과제다.
김병필 인공지능 개척시대·KAIST 기술경영학부 교수
