【뉴스퀘스트=김민우 기자】 SK텔레콤이 오는 6월까지 통신 영역에 특화된 '텔코LLM(대규모언어모델)' 개발을 마치고 연내 출시할 예정이다.

SK텔레콤은 30일 5G 요금제, 공시지원금 등 국내 통신 용어와 인공지능(AI) 윤리가치와 같은 통신사 내부 지침을 학습한 '텔코LLM'을 개발 중이라고 밝혔다. 

'대규모 언어 모델'을 뜻하는 LLM은 수십억개의 방대한 데이터를 바탕으로 컴퓨터의 인공어 외에도 "제8대 프랑스 대통령의 이름은 무엇입니까"와 같은 자연어에 적절한 답변을 제공하는 AI 프로그램이다.

SK텔레콤이 개발하는 '텔코LLM'은 오픈AI의 챗 GPT처럼 전 분야에서 두루 활용 가능한 '범용 LLM'이 아닌 통신업을 중점으로 서비스한다. 

AI고센터(AICC), 유통망, 네트워크 운용, 사내 업무 등에 주로 활용될 예정이다.

SK텔레콤은 이를 위해 자사의 에이닷엑스(A.X), 오픈AI의 GPT, 앤트로픽의 클로드 등 다양한 '범용 LLM'을 기반으로 활용 사례에 맞게 특화 LLM 라인업을 개발했다.

'텔코LLM'은 파인튜닝(미세조정)이라는 과정을 통해 계속 고도화된다.

가령 고객이 요금제를 문의할 때 해당 기능에서 기대에 못 미치는 평가가 나오면 관련 데이터를 더 학습함으로써 기능을 향상시키는 것이다. 

SK텔레콤은 텔코LLM 도입을 통해 자사의 상담 업무 시간을 줄이고, 업무 효율을 크게 향상시킬 것으로 기대하고 있다.

가령 상담사가 고객 문의에 관한 질문을 입력하면 이를 LLM이 답변해준다거나 상담 이후에도 내용을 요약해주는 등의 방식으로 활용될 예정이다.

정민영 SK텔레콤 AI플랫폼 담당은 "고객센터뿐만 아니라 마케팅, 법무와 같은 사내 업무에도 텔코LLM을 적용할 수 있을 것"이라며 "지속적으로 텔코LLM을 활용한 사례를 늘려가겠다"고 설명했다. 

SK텔레콤은 통신사들이 생성형 AI 애플리케이션을 효율적으로 구축할 수 있는 '인텔리전스 플랫폼'도 개발 중이다.

이를 통해 멀티 LLM, 멀티모달, 검색증강생성(RAG) 등 다양한 생성형 AI 기술에 필요한 소스를 제공한다는 계획이다. 

에릭 데이비스 SK텔레콤 AI 테크 콜라보레이션 담당은 "범용 LLM 1개만으로 통신사들이 하려는 여러 서비스와 문제를 해결하는 것은 쉽지 않다"면서 "자사가 가진 통신 데이터와 도메인 노하우에 맞춰 다양한 텔코 LLM 라인업을 확보해 상황에 맞게 골라 쓸 수 있도록 하는 것이 목표"라고 말했다.

<세상을 보는 바른 눈 '뉴스퀘스트'>