ADVERTISEMENT

"존경하는 검사님" 마약범 탄원서…챗GPT가 만든 가짜였다

중앙일보

입력

업데이트

생성형 인공지능(AI)로 가짜 문서를 만들어 활용하려다가 재판에 넘겨지는 첫 사례가 나왔다. 서울중앙지검 공판2부(부장 김해경)는 챗GPT로 ‘가짜 탄원서’를 작성한 뒤 검찰과 법원에 제출한 마약사범 김모(32)씨를 지난 1일 사문서위조 및 위조사문서행사 혐의로 추가 기소했다.

마약사범 김씨가 챗GPT를 이용해 검찰·법원에 제출한 가짜 탄원서. 사진 서울중앙지검

마약사범 김씨가 챗GPT를 이용해 검찰·법원에 제출한 가짜 탄원서. 사진 서울중앙지검

바이럴 마케팅업체를 운영하던 김씨는 필로폰 2회 투약과 임시마약류 소지 등 혐의로 지난달 11일 1심에서 징역 1년 3개월을 선고받았다. 앞서 김씨는 재판이 진행 중이던 지난해 10월 “법정 태도에 비춰 증거인멸 및 도주 우려가 있다”는 재판장 판단에 따라 구속돼 서울구치소에 수감된 상태였다. 구속 이후 김씨는 재판부에 보석을 통한 석방과 형량 감경 등을 노리고 지인·가족 명의의 탄원서를 다수 제출했다.

그런데 이 중에 챗GPT가 대신 써 준 조작된 탄원서도 있었다. 김씨는 지난해 11월 구치소에서 지인을 통해 챗GPT로 “고양시체육회와 협력해 공익활동을 많이 했으니 선처해달라”는 취지로 고양시체육회 팀장 A씨 명의의 허위 탄원서를 조작한 뒤, 자신의 지장을 찍어 마약사건 재판부와 담당 검사에게 각각 제출했다.

“모든 시민이 건강 증진”…AI 탄원서 부작용

검찰에 따르면 검사에 제출한 탄원서는 “존경하는 검사님”으로 시작해 “김씨는 고양시 전 청년위원장으로서 지역 사회와 청년들의 발전을 위해 헌신적으로 노력해왔다. 김씨의 리더십 아래 청년위원회는 다양한 프로젝트와 활동을 통해 지역 청년들의 참여를 촉진했다”는 허위 사실로 채워져 있었다.

김씨가 “체육 분야의 발전에 귀 기울여 시민들이 스포츠와 체육 활동에 적극적으로 참여할 수 있는 기회를 마련했다”며 “고양시의 남녀노소 가릴 것 없이 모든 시민들이 건강 증진과 사회적 네트워크를 형성할 수 있었으며 지역 사회 전반에도 좋은 변화를 가져왔다”고도 언급했다.

어색한 번역투 딱 걸려…명의자는 일면식도 없었다

그러나 공판을 담당한 정기훈(40·사법연수원 44기) 서울중앙지검 검사가 탄원서를 검토하던 중 “누구도 선뜻 나서지 않았던 당내 불미스러운 일조차 정의라는 명목으로 홀로 싸우기도 하고” 등 김씨의 행적이나 범행과는 무관한 내용이 적힌 점을 미심쩍게 여겼고, 검찰은 수사에 착수했다.

검찰은 “탄원서가 구체적인 활동에 대한 언급 없이 긍정적 표현만 일색인 점, 무엇보다도 전반적인 문체가 번역문처럼 어색한 점을 담당 검사가 발견했다”며 “구글 번역기나 문서 생성기를 쓴 것은 아닌지 진위를 확인하고자 지난달 16일부터 30일까지 관련 수사를 진행했다”고 밝혔다.

서울중앙지검은 지난 1일 챗GPT로 '가짜 탄원서'를 제작한 마약사범을 추가기소했다. 연합뉴스

서울중앙지검은 지난 1일 챗GPT로 '가짜 탄원서'를 제작한 마약사범을 추가기소했다. 연합뉴스

수사 결과, 탄원서 명의자인 A씨는 김씨와 전혀 모르는 사이였다. 김씨가 고양시체육회와 관련된 공익활동을 한 적도 없었다. 검찰은 김씨가 지인에게 A씨 명함을 건네며 ‘고양시체육회’ ‘공익활동’ ‘당내 경선 문제 해결’ 등의 키워드를 넣어 탄원서를 생성해달라고 부탁한 전말을 파악해 김씨를 추가로 재판에 넘겼다. 김씨가 “고양시 청년위원장으로 활동했다”는 탄원서 내용도 사실과 다른 것으로 드러났다.

검찰은 “챗GPT 등 생성형 AI 기술을 악용한 증거 조작과 허위·위조 문서나 영상물 제작·유포 등 우려가 제기된 가운데, 실제로 형사 재판에 조작된 탄원서가 제출된 사례”라며 “앞으로도 AI를 악용한 범행에 엄정 대응할 계획”이라고 밝혔다.

ADVERTISEMENT
ADVERTISEMENT
ADVERTISEMENT
ADVERTISEMENT