SK텔레콤의 5세대(G) 통신 요금제만 49종. 여기에 요금 할인과 단말기 지원금 방식, 결합 상품까지 경우의 수를 따져 최적의 요금제를 찾는 건 쉬운 일이 아니다. 챗GPT같은 범용 인공지능(AI) 챗봇에 물어봐도 만족할 만한 답은 나오지 않는다. 이런 상황에서 SK텔레콤이 개인 맞춤형으로 최적의 요금제를 골라줄 AI 모델을 6월 출시한다.
정민영 SK텔레콤 AI플랫폼 담당이 30일 서울 중구 SKT타워에서 열린 기자설명회에서 개발 중인 텔코LLM에 대해 설명하고 있다. SK텔레콤
무슨 일이야
SK텔레콤은 국내 통신 관련 데이터를 학습한 ‘텔코LLM’(통신사 특화 거대언어모델)을 6월 중 개발 완료할 예정이라고 30일 밝혔다. SK텔레콤이 개발 중인 ‘텔코LLM’은 자사의 ‘에이닷엑스’와 오픈AI의 ‘챗GPT’, 엔트로픽의 ‘클로드’와 같은 범용 LLM을 통신업에 특화해 발전시킨 모델이다.
국내 통신 영역에 특화한 텔코LLM을 활용하면 AI가 개인별 맞춤형 요금제를 추천해주는 것은 물론, 고객센터 상담사가 고객 문의 내용을 해결하는 시간도 대폭 줄여준다. 통신사 네트워크에 문제가 발생했을 때도 인프라 운용자가 직접 매뉴얼이나 대응 사례를 찾지 않고도 텔코LLM에 물어 일 처리 효율을 높일 수 있다.
이게 왜 중요해
최근 생성 AI 모델은 한 가지 모델로 모든 문제를 해결하려는 ‘범용 모델’과 특정 영역에 집중한 ‘특화 모델’로 양분화 되고 있다. 마이크로소프트, 구글 등 빅테크 기업들도 범용 LLM에 이어 최근엔 특정 영역에 특화한 모델을 만들기 용이한 소형언어모델(sLLM)을 잇따라 출시하고 있다. 국내 통신사들도 빅테크와 직접 경쟁하기보다 이들과 협업해 통신사 서비스 맞춤 AI 모델을 개발하는 데 열을 올리고 있다.
지난 2월 세계 최대 이동통신 전시회 '모바일 월드 콩그레스(MWC) 2024'에 마련된 SK텔레콤 부스. 연합뉴스
범용 LLM은 박학다식하지만, 모든 분야의 전문가는 아니다. 국내 통신 고객들의 구체적인 문의에 재대로 대응하기 어렵다는 단점이 있다. 특화 LLM은 범용 LLM의 이런 단점을 극복할 수 있는데다 전문 영역에서는 처리 속도가 빠르고, 비용도 줄일 수 있다. 오픈AI는 지난 5일 공식 블로그에서 특정 영역에 최적화 할 수 있는 커스텀(맞춤형) AI 모델을 공개하면서 “SK텔레콤과 협력을 통해 GPT-4를 미세 조정하고 한국어로 된 통신 관련 대화 성능을 향상시켰다”고 언급한 바 있다.
앞으로는
SK텔레콤은 ▶통신사만 보유한 데이터를 수집하고 ▶범용 LLM을 특화 LLM으로 미세조정(파인튜닝)한 뒤 ▶실제 사용자에게 피드백을 받고 ▶모델 성능을 테스트하는 4단계 과정을 반복하면서 텔코LLM의 완성도를 높이고 있다. 정민영 SK텔레콤 AI플랫폼 담당은 "고객센터, 인프라 뿐 아니라 마케팅·유통망 등 고객 접점이나 법무·인사 관리와 같은 사내 업무까지 다양한 영역에서 텔코LLM이 업무 효율성을 높일 것"이라고 설명했다. SK텔레콤은 한국어 버전 텔코LLM 개발을 완료한 후 해외 주요 통신사 연합인 글로벌 텔코 AI 얼라이언스(GTAA)와 글로벌 버전 개발에도 나설 계획이다.
