美대법원장도 "AI 환각 심각"…해결사로 나서는 '리걸 AI' [팩플]

중앙일보

입력

법률 시장에서 범용 생성AI(인공지능)가 만들어내는 가짜 판례와 부정확한 정보 등 ‘할루시네이션’(환각) 문제에 대한 우려가 커지고 있다. 법률 전문 생성 AI가 이를 해결할 수 있을지 관심을 모은다.

존 로버츠 미국 연방대법원장. 사진 로이터=연합뉴스

존 로버츠 미국 연방대법원장은 지난달 31일(현지시각) 미국 사법부의 ‘2023년 연말보고서’를 통해 “AI를 사용할 때는 신중함과 겸손함이 필요하다”고 강조했다. 로버츠 대법원장은 “올해 유명한 AI 서비스 중 하나가 ‘할루시네이션’(환각·그럴싸한 거짓말) 문제로 뉴스를 장식했고, 이 서비스를 사용한 변호사가 존재하지 않는 판례를 인용한 서면을 제출하는 일이 발생했다”고 지적했다.

실제 지난해 12월 도널드 트럼프 전 대통령의 옛 측근이었던 마이클 코언 변호사는 구글의 생성 AI 서비스 ‘바드’를 활용한 서면을 법원에 제출했다가 허위 판례를 인용한 것이 밝혀져 논란이 됐다. 또 지난해 5월 미국 변호사 스티븐 슈워츠가 챗GPT 답변을 활용한 서면을 제출했다가 법원으로부터 벌금 5000달러를 부과받기도 했다.

어떻게 해결해

'Lexis+AI' 서비스화면. 사진 렉시스넥시스

리걸테크 회사들은 정보 출처에 대한 검증을 강화해 환각 문제를 해결하려한다. 지난해 10월 미국 렉시스넥시스는 미국 판례와 연방 법조문 등 미국법 데이터를 학습한 생성 AI인 ‘렉시스 플러스 AI’를 출시했다. 판례 검색과 법률문서 요약 등 기존 기능을 AI와 대화하며 이용할 수 있는 ‘법률판 챗GPT’다. 지난해 11월에는 톰슨로이터가 자사 법률소프트웨어 ‘웨스트로’에 생성 AI 비서 기능을 결합한 서비스 ‘웨스트로 프리시전’(Westlaw Precision)을 출시했다. 두 회사는 글로벌 리걸테크 시장의 양대 산맥으로 꼽히는 기업이다. 이들은 법률을 전문적으로 학습한 생성AI 서비스지만 안전장치도 함께 뒀다. 법률 AI 서비스가 생성한 정보의 근거 문헌 링크를 포함해 답변하도록 했다. 또 판례에도 인용 출처를 함께 제시하게 했다.

한국은 어때

국내 리걸테크 기업도 전문 분야 데이터를 학습시킨 법률 AI 서비스를 통해 환각 가능성을 최소화하고 있다. 법률 견적 및 변호사 매칭 서비스를 하는 리걸테크 스타트업 로앤굿은 지난달 ‘선거법 AI 챗봇’ 을 출시했다. ‘선거 현수막은 언제부터 달 수 있어?’ 등의 질문에 대해 근거가 되는 법 조항과 판례를 기반으로 답변해주는 무료 서비스다. 중앙선거관리위원회에 등록된 질의응답 1만여 건과 선거법 판례 3000여건을 학습했다.

사진 로앤굿

리걸테크 스타트업 인텔리콘은 생성 AI 기반 학교폭력 법률상담 시스템을 개발했다. 교사에게는 적법한 처리 과정을, 피해·가해 학생과 학부모에게는 법률 정보와 상담을 제공하는 대화형 AI다. 임영익 인텔리콘 대표는 ”지난해 10월 서울시와 업무 협약을 맺은 뒤 개발했고, 현재 출시 시기와 방법 등을 조율하고 있다”고 말했다. 로톡 운영사 로앤컴퍼니는 올해 상반기 변호사를 위한 AI 서비스로 ‘슈퍼로이어’란 Saas(Software as a Service, 서비스형 소프트웨어)를 출시할 예정이다.

앞으로는

전문가들은 국내 리걸테크 산업과 법률 AI 시장이 발전하기 위해서는 제도가 뒷받침되어야 한다고 지적한다. 이병준 고려대 법학연구원 리걸테크센터장(법학전문대학원 교수)은 “국내 리걸테크는 걸음마 수준으로 실무에 적용되는 단계는 아니다”라면서 “변호사법 109조처럼 변호사의 업무, 법률서비스를 누가 어디까지 수행할지 범위를 규정하는 문제에 있어서 법률 사무 일부를 변호사 자격이 없는 사람도 허용할 수 있게 하는 ‘리걸테크산업 진흥법’ 등을 만들 필요가 있다”고 말했다. 최경진 가천대 법학과 교수는 “법률 AI의 품질은 학습 데이터가 결정한다”면서 “리걸테크 산업 발전을 위해서는 제도적으로 판결문, 행정청 처분 등 데이터 공개가 뒷받침될 필요가 있다”고 말했다.