챗GPT에 "화장실 가도 돼요?"…바보같은 답변 이래서 나온다 [hello! Parents]

중앙일보

입력

hello! Parents

“AI 똑똑하게 쓰는 사람들은 이렇게 질문합니다.” 챗GPT가 나온 지 1년3개월. 인류는 처음에 놀랐지만, 점점 내 일자리를 잃지 않을까 걱정합니다. AI 시대, 인간은 대체 어떻게 살아남을 수 있을까요? 『질문에 관한 질문들』 저자인 백희정 박사는 “질문만 잘하면 문제없다”고 말합니다. 정말 그럴까요? 그가 ‘질문’에 천착하는 이유 한번 들어보시죠.

온갖 IT 기업이 AI 서비스를 내놓는 시대. 디지털 환경에서의 읽기 교육을 연구하던 9년 차 초등교사 백희정 박사도 새로운 문제와 마주쳤다. 문해력 저하의 원인으로 꼽혔던 스마트폰 보급과는 차원이 다른 교육환경의 변화가 예고됐기 때문이다. 『질문에 관한 질문들』의 저자인 백 박사는 “질문만 잘하면 AI는 좋은 학습 파트너가 될 것”이라고 말한다. AI엔 어떻게 질문해야 할까. 백 박사는 “다음 세 질문의 차이를 아느냐”고 물었다. ① 화장실 가도 돼요? ② 저요? ③ 나비의 서식지는 어디인가요?

다 질문의 형태 아닌가.

“①번과 ②번은 질문 형식이지만 엄밀히 말하면 질문이 아니다. 동의를 얻거나 확인하는 말이다. 반면에 ③번은 모르는 걸 알아내려는 목적이 있다. AI는 이제 학습과 지식 탐구의 중요한 도구다. AI엔 ③번 같은 질문을 해야 한다. 알고자 하는 게 명확할수록 유용한 답을 얻는다.”

왜 그런가.

“우리가 쓰는 AI는 인간의 언어로 된 정보를 대량 학습한 모델(LLM)이다. 문장으로 된 질문을 뜻을 가진 가장 작은 단위로 쪼개 인식한 뒤 그 패턴과 관계를 파악해 새로운 말을 생성한다. 예를 들어 ‘2박3일 제주도 여행 일정을 짜줘’라고 하면, ‘제주도’ ‘2박3일’ ‘여행’으로 쪼갠 뒤 이미 익힌 패턴에 따라 관계가 깊은 단어를 선별해 문장을 만든다. 따라서 여행지를 물을지, 여행 방법을 물을지 분명히 한 뒤 여행지를 묻는다면 뭘 하고 싶은지 등을 구체적으로 물어야 한다. 여행지를 ‘찾아줘’라는 표현보다는 ‘추천해 줘’가 좋다. ‘찾다’는 목적이 불분명하지만 ‘추천’은 우선순위에 대한 필요가 분명하다. 단계적으로 여러 번 묻는 것도 중요하다.”

단계적 질문이란 어떤 식인가.

“첫 질문은 ‘2박3일 제주도 여행 계획을 짜줘’ 정도면 충분하다. AI는 제주도 맛집, 숙소 같은 정보를 내놓겠지만 아직 언제, 어디서 등의 정보가 부족하다. 구체적 후속 질문이 필요하다. “인기 많은 명소를 포함해 추천해 줘”라는 식이다. ‘부모님 생신 기념 여행’이라는 맥락을 붙이거나 ‘여행 가이드라고 가정하고 답해 줘’라는 등 역할을 부여하는 것도 효과적이다.”

그러면서도 백 박사는 “너무 믿지 말라”고 강조했다. “AI는 몇 날 며칠 걸릴 숙제도 몇 초 만에 상당한 수준으로 해내지만 자세히 들여다보면 곳곳에 허점이 있다”는 것이다.

왜 허점이 생기나.

“학습한 정보도 결국 인간이 만든 것이기 때문에 AI는 인간이 가진 한계를 그대로 드러낸다. AI는 정보의 질보다 양을 우선하다 보니 관련성이 높으면 내용이 맞든 틀리든 일단 끌어오기 때문에 거짓말하는 경우도 생긴다. 종교, 인종, 성별 같은 주제에서 편향성 있는 답을 내놓곤 하는 것도 그래서다.”

속지 않으려면.

“세부 사항과 근거·출처를 되묻고 명사만 선별해 한번 더 검색해 봐야 한다. 챗GPT 사용 초기에 ‘『조선왕조실록』에 기록된 세종대왕의 맥북 프로 던진 사건을 알려줘’라고 물은 적이 있다. ‘15세기 세종대왕이 훈민정음 초고 작성 중 문서 작성 중단에 분노해 맥북 프로와 담당자를 방으로 던진 사건’이라고 답하더라. ‘조선시대에 맥북이 있었나’ ‘이 질문의 출처가 어딘가’라는 식으로 되물어야 한다. 명사는 틀릴 가능성이 작다. 물을 산이라고 부르지 않는 것처럼. ‘세종대왕’ ‘맥북’을 떼어놓고 보면 오류가 있다는 걸 알 수 있지만 ‘던졌다’ ‘기록돼 있다’는 서술어와 엮으면 AI는 그럴듯한 문장으로 인식한다.”

구체적 질문을 잘하려면 뭐가 필요한가.

“내가 뭘 알고, 뭘 모르는지를 깨달아야 한다. AI 시대에 ‘다문다독다상량(多聞多讀多商量)’이 더 중요한 이유다. 좋은 질문을 받아본 사람이 좋은 질문을 할 수 있는 만큼 부모나 교사가 아이들에게 질문하는 방식이 중요하다.”

백 박사는 AI의 가능성과 한계를 모두 ‘감정이 없다’는 점에서 찾았다. 백 백사는 “양육자도, 교사도 아이가 끊임없이 ‘왜’라고 물으면 지칠 수밖에 없지만 감정이 없는 AI는 매번 최선을 다해 답한다. 하지만 ‘맞아 맞아’라고 맞장구쳐주며 창조적 질문을 이끌 수도 없다”고 말했다.

기사 전문과 더 자세한 내용은 더중앙플러스에서 확인할 수 있습니다.