수신자님께,

저희는 팩플 위클리를 발행하는 회사입니다. 이번에 메일을 통해 연락드리는 이유는 매우 안타까운 소식을 전하게 되어서입니다. 저희는 이제부터 팩플 위클리를 중단하게 되었음을 알려드립니다.

이 결정은 매우 고심 끝에 내린 것이며, 저희의 비즈니스 모델과 시장 변화 등을 고려한 결과입니다. 팩플 위클리를 구독해주셨던 여러분들께 진심으로 감사의 말씀을 전합니다. 여러분의 지속적인 관심과 애정으로 팩플 위클리가 이룬 성과와 발전이 있었습니다.

(......)

팩플 위클리가 오늘 이런 '피싱 설정'으로 시작한 이유가 있습니다. 이번주 팩플 오리지널의 주제인 ‘챗GPT 시대의 해킹’을 실감나게 전달해 드리고 싶어 그랬습니다. 챗GPT가 새로운 보안 위협으로 떠오르고 있다는 얘기 요즘 들어보셨을 거예요. 저희가 취재해보니, 특히 사회 공학적(social engineering) 위협이 커지고 있습니다.

챗GPT가 언어모델이라는 점을 생각하면 현재 당면한 가장 큰 위협은 피싱 메시지가 고도로 발달한다는 점일지도 모릅니다. 위에서 보셨듯 실제 사람이 구사하는 문장과 분간이 어려운 수준의 피싱 메일을 챗GPT를 통해 뚝딱 만들어낼 수 있으니까요. 롭 조이스 미국 국가안보국(NSA) 사이버안보국장도 11일(현지시간) 사람들이 챗GPT가 작성한 피싱 메시지에 더 당할 우려가 있다는 사회자의 말에 “전적으로 그렇게 생각한다”고 답했습니다.

팩플 오리지널

챗GPT 시대, 당신이 해킹에 대처하는 법

혹시 이런 생각 해보셨나요? ‘챗GPT 때문에, 이젠 누구나 남의 정보를 쉽게 해킹할 수 있는 거 아냐?’ 결론부터 말씀드리면 보안(혹은 컴퓨터) 관련 지식이 전무한 사람은 챗GPT의 도움을 받는 건 거의 어렵습니다. 저희가 취재차 접촉한 보안 전문가들의 일치된 의견이었습니다. 챗GPT는 구체적인 명령을 내려야 답을 내놓는데다, 전문 지식이 없으면 챗GPT가 알려주는 답을 해킹에 써먹기도 어렵다고요. 현재는 ‘해커의 생산성을 높여주는 도구’로 보는 게 가장 정확하다고 해요.

그럼 만약 생성AI가 고도로 발달한다면 어떨까요? 그림을 만들어주고, 시를 써주는 AI처럼 해킹도 대신해주는 생성AI가 나온다면요? 최정수 라온화이트햇 연구팀장은 “해킹, 취약점 등을 전문적으로 학습한 AI가 나온다면 일반적인 수준의 해커를 넘을 수도 있겠다는 생각은 한다”고 말했습니다. 기술 발전이 계속된다면 아주 실현 불가능한 얘기는 아닐 수 있다는거죠.

또 다른 위협은 챗GPT로 인해 거짓·편향 정보를 확산하는 데이터 포이즈닝(poisoning)이 용이해졌다는 점입니다. 워싱턴포스트(WP)는 지난 5일 “챗GPT가 성희롱 스캔들을 만들어내고, 무고한 법학 교수를 성희롱범으로 지목했다”고 보도했습니다. 챗GPT에 “성희롱 전력이 있는 법학자 목록을 작성해 달라”고 요청하자, '조나단 털리'라는 법학자의 이름이 나왔다는데요. 챗GPT는 털리 교수가 알래스카로 수학여행을 떠난 학생들에게 성적 발언을 하고, 일부 학생의 신체를 더듬는 성추행도 했다며 그 상황을 상세히 전했습니다. 문제는 챗GPT가 털리를 성추행범으로 지목한 근거가 2018년 3월 WP의 기사였는데, 실제로는 그런 기사 자체가 보도된 적 없었다는 점입니다. 챗GPT가 만든 허위 사실로 졸지에 성추행범에 몰린 털리 교수는 “매우 오싹한 경험”이라며 “오보라면 언론사에 정정보도를 요청하겠지만, AI 챗봇의 거짓 주장은 어디에 수정을 요청할 방법도 없다”고 말했습니다.

팩플 인터뷰

DeepL의 미래는 '디테일'이다

안녕하세요, 이번주 팩플 인터뷰어 윤상언 기자입니다.

팩플 위클리 구독자님들 중에도 뉴욕타임스나 워싱턴포스트 같은 외신 기사를 직접 찾아 읽으시는 분들 있으시죠. (교육열에 불타던 부모님 덕에) 저는 어린 시절 미국 시사주간지 타임(TIME)을 반강제로 구독했더랬습니다. 매달 적지 않은 구독료를 냈지만, 사실 저는 그 잡지를 거의 안 읽었습니다. 책장에 곱게 꽂아두기만 했죠(부모님..죄송합니다🙏). 영어가 그때 저에겐 너무 어려웠거든요. 그런데 그때, 요즘 장안의 화제인 ‘딥엘(DeepL)’의 번역 서비스가 있었다면 어땠을까요. 저의 영어 실력도, 세계를 보는 저의 시야도 좀 달라졌을까요?

이번주 인터뷰 주인공인 야로스와프 쿠틸로브스키 최고경영자(CEO)가 창업한 딥엘을 알게 된 건 지난 2월초입니다. 지인이 “외신에 적힌 문장을 기가 막히게 번역한다”며 소개하더라고요. 써보니 경쟁사들의 번역과 달리 한국어 어휘 선택이 무척 자연스럽더라고요. 보통 AI 번역기에 돌린 문장들이 감추지 못하는 특유의 어색함도 없었습니다.

게다가 이 회사, 미국 실리콘밸리 출신이 아니더군요. 독일 쾰른에 본사를 둔 유럽 스타트업이었습니다. 유럽은 개인정보 활용을 둘러싼 각종 규제가 엄격한 곳입니다. 그런데 그곳에서 한국어를 이렇게 맛깔나게 번역하는 AI 스타트업이 나왔다고요? 그래서 궁금했습니다. 혜성처럼 등장한, 이 독일 스타트업의 정체는 대체 무엇인지 말이죠.

보통 ‘독일’ 하면 떠올리는 것이 ‘장인 정신’인데, 독일에서 창업한 쿠틸로브스키 대표와의 대화에서도 그런 분위기가 느껴졌습니다. AI 번역의 기술이 발전하면 경쟁사와의 차별화가 힘들어질 수 있지 않냐는 질문에 “아무리 높은 수준의 품질에 도달해도 여전히 완벽한 번역과는 괴리가 존재할 것이고, 그 작은 차이는 중요하다”고 하더군요. 작은 것들이 쌓여서 큰 차이를 만들어낼 수 있는 만큼, 차별점을 계속 만들어낼 수 있다는 자신감도 읽혔습니다.

챗GPT의 등장과 함께 전 세계에 불어닥친 AI 열풍은 딥엘에게 호재입니다. 일단 알려져야 사람들이 많이 쓸 테니까요. 사람들이 AI에 관심을 가질수록, AI 번역 서비스 수요도 늘어날 거란 게 딥엘의 생각입니다. 반면 인터뷰를 하면서 쿠틸로브스키 대표는 최근 기술 발전 속도가 과도하게 빠르다는 걱정도 털어놓더군요.

딥엘 번역은 왜 유독 자연스러운 걸까요. 유럽에서 AI 스타트업, 해볼만 할까요? 일론 머스크, 스티브 워즈니악이 진행 중인 ‘AI 연구 6개월 중단 서명운동’에 대해 쿠틸로브스키 대표는 어떻게 생각하고 있을까요. AI 기술에 대한 독일 AI 기업 창업자의 생각과 경험, 지금 바로 만나보시지요. 인터뷰 보러 가기 GO!

팩플 오리지널과 팩플 인터뷰는 The JoongAng Plus 구독후 보실 수 있습니다.

The JoongAng Plus에 대한 소개는 여기서 확인하세요. 첫달 구독료는 무료입니다.

📰 팩플이 추천하는 기사 📰