SKT "고객센터에 적용한 AI 플랫폼, 대리점 업무·계약서 검토 등에도 확대"(종합)

SKT, 오픈AI·클로드와 협력해 텔코 LLM 개발

요금제·공시지원금 등 통신 용어 학습 강화

글로벌 텔코 LLM은 협력사 협의 후 개발

[서울=뉴시스]윤정민 기자 =

[서울=뉴시스] 윤정민 기자 = SK텔레콤은 30일 오전 서울 중구 SKT타워에서 텔코 LLM 구축 과정, 사용 예시 등을 소개했다. 사진은 텔코 LLM이 적용된 인텔리전스 플랫폼 사용 예시. 2024.04.30. [email protected] *재판매 및 DB 금지

#다음 달 6일에 요금제 변경을 원하는 SK텔레콤 고객 A씨. A씨는 114 고객센터에 전화해 요금제 변경 예약을 요청했다. 고객의 요청이 끝나자마자 상담사가 이용하는 업무 플랫폼에 '요금제 변경 예약 불가'라는 메시지가 나왔다. 인공지능(AI)이 고객 질문을 실시간으로 인지해 이에 맞는 응대 방법을 알려준 것이다.

상담사는 "요금제 변경 예약은 안 돼서 그날 다시 전화를 주셔야 하고요. 놓치지 마시라고 문자로 알림은 보내드릴 수 있어요"라고 안내했고 고객 동의 확인 후 통화를 마쳤다. 통화를 마치자마자 업무 플랫폼에 '문자 발송: 5월6일 요금제 변경 안내'라는 메시지가 떴다. AI가 통화 내용을 요약·분석해 상담사가 해야 할 일을 정리한 것이다.

SK텔레콤은 오는 6월 출시 예정인 통신 특화 거대언어모델(LLM)과 이를 활용한 인공지능(AI) 플랫폼을 연내 고객센터 상담 업무에 우선 적용한다. 향후에는 오프라인 판매점에도 적용해 판매점 직원(T크루)이 고객에게 AI 추천 답변을 안내할 계획이다.

SK텔레콤은 30일 오전 서울 중구 SKT타워에서 텔코 LLM 구축 과정, 사용 예시 등을 소개했다.

[서울=뉴시스] SK텔레콤은 30일 오전 10시 서울 중구 SKT타워에서 '텔코 LLM'을 소개했다. 사진은 텔코 LLM 개념도 (사진=SK텔레콤 제공) *재판매 및 DB 금지

SK텔레콤이 오픈AI, 앤트로픽 등과 함께 개발한 이 LLM은 통신 서비스 관련 업무를 범용 LLM보다 더 빠르고 정확하게 수행하는 게 특징이다. 통신 상품, 멤버십 혜택, 고객 상담 패턴 등 방대한 양의 데이터를 수집·선별해 학습했기 때문이다.

이 회사는 텔코 LLM 도입으로 3분30초(고객 상담 3분, 상담 후 업무 처리 30초) 이상 소요되는 현 고객센터 상담 대응 시간이 약 30초에서 1분30초로 줄어들 것이라고 말했다. 기존 고객센터에서 상담사가 고객 문의 내용을 정리하고, 필요한 문서를 검색·요약해 답한 후 상담 내용을 기록하는 것까지 수행했다면 이제는 텔코 LLM이 일 대부분을 처리하기 때문이다.

[서울=뉴시스] 윤정민 기자 = SK텔레콤은 30일 오전 서울 중구 SKT타워에서 텔코 LLM 구축 과정, 사용 예시 등을 소개했다. 사진은 텔코 LLM이 적용된 인텔리전스 플랫폼 사용 확장 계획 예시. 2024.04.30. [email protected] *재판매 및 DB 금지

하지만 LLM이 간혹 잘못된 정보, 문장 서순이 이상한 답변 생성 등 환각을 보일 수 있다. 통신 요금제나 멤버십 할인 혜택도 주기적으로 바뀌기 때문에 LLM이 지속적으로 데이터를 학습해야 한다. SK텔레콤은 텔코 LLM이 효율적으로 생성형 AI 앱을 구축할 수 있도록 '인텔리전스 플랫폼'도 구축했다고 설명했다.

예를 들어 고객이 "VIP 픽(T멤버십) 영화 혜택이 올해 달라진 점 있는가?"라고 물을 때 마케팅 정보시스템 내에서 '2023년도 VIP 픽', '2024년도 VIP 픽'을 AI가 종합·분석해 "올해부터는 VIP 픽 영화 제휴사가 롯데시네마에서 CGV로 변경됐다"는 답변을 안내해주는 식이다.

정민영 SK텔레콤 AI 플랫폼 담당은 "AI 기술을 이용해 태스크(업무) 단위로 개발하는 게 6월 초에 마무리될 걸로 예상한다. 연내 고객센터에 (텔코 LLM을) 적용할 수 있을 것"이라고 말했다.

SK텔레콤은 이 플랫폼을 마케팅·유통망, 사내 업무, 기업간거래(B2B) 생성형 AI 플랫폼 서비스 개발 등에도 활용할 계획이다. 마케팅·유통망의 경우 대리점 내 화상상담 부스에서 AI 상담사와 상담을 진행하는 데 활용될 예정이다. 사내 업무의 경우 양식에 맞게 보도자료 작성을 요청하면 AI가 기사 구조에 맞게 초안을 작성하는 방식이다.

[서울=뉴시스] SK텔레콤은 30일 오전 서울 중구 SKT타워에서 텔코 LLM 구축 과정, 사용 예시 등을 소개했다. 사진은 에릭 데이비스 AI 테크 협력 담당(왼쪽)과 정민영 AI 플랫폼 담당이 기자 질의에 답하는 모습 (사진=SK텔레콤 제공) *재판매 및 DB 금지

한편 SK텔레콤은 싱텔, 도이치텔레콤 등 글로벌 통신사와 LLM 개발을 위한 협의체(글로벌 텔코 AI 얼라이언스, GTAA)를 출범한 만큼 다국어 텔코 LLM 개발도 진행 중이다. 이 회사는 한국어 기반 텔코 LLM을 우선 출시한 뒤 향후 글로벌 텔코 LLM로 고도화할 것이라고 말했다.

에릭 데이비스 SK텔레콤 AI 테크 협력 담당(부사장)은 현재 GTAA 회원사들과 텔코 LLM 개발 관련해 협의가 진행 중이라며 구체적인 합의가 잡히는 대로 개발에 나설 계획이라고 밝혔다.

정 담당도 "GTAA 회원사 멤버들 기술적 요건 등을 협의하면서 엔터프라이즈 측면에서 어떤 요건이 필요하고 어떻게 준비해야 하는지 기술적 내용을 정리해 인텔리전스 플랫폼에 반영하고 있다"고 말했다.


◎공감언론 뉴시스 [email protected]