韩国SKT自研电信大模型成果已成功落地实施

C114讯 北京时间11月20日消息（艾斯）韩国电信运营商SK电讯（SKT）正在持续大举进行AI转型。

近日，该运营商宣布推出推出了一款AI客服工具，旨在提高处理客户查询的效率。这一新系统利用SKT自研的电信大语言模型（Telco LLM）和大型多模态模型（LMM）技术，专注于电信领域知识。SKT韩国客服中心从今年10月中旬以来一直在测试该工具，测试阶段持续了大约一个月时间。

报道称，上述Telco LLM是通过与Anthropic等主流国际大模型公司合作开发的，使该系统能够提供深厚的电信专业知识。

SKT还开发了能够理解与通信相关的文本和图像的专用LMM。测试版服务于10月中旬逐步推出，并显示出良好的效果。这是韩国国内客服中心首次采用这类AI咨询系统。这家运营商表示，该系统提高了工作效率，提供了更加个性化的客户咨询。利用其自研的Telco LLM，可帮助agent更快地从内部数据库中检索相关信息，从而缩短响应时间，并提高服务质量。

另外，SKT采用了检索增强生成（RAG）进一步优化系统，使模型在回答客户查询时仅访问最准确的数据。此功能提高了响应的可靠性和准确度，确保agent能够提供最好的服务。RAG的集成还通过简化数据检索过程提高了整体响应质量，使其更快、更有效。

在过去的一年里，SKT重组了其知识管理系统，以更好地适应AI需求。该公司利用各种通信数据和客服专家的大量反馈对其模型进行了微调。

这种由强化学习驱动的迭代过程确保了Telco LLM和LMM是量身定制的，能够以最高的准确度处理与电信相关的查询。

除了核心的AI功能外，SKT还计划推出三项创新解决方案：AI知识搜索助手、智能文档处理、自动后处理系统。这些功能已于今年10月开始测试，并将于2025年全面推出。

据C114了解，韩国电信运营商一直在AI数字化转型方面表现得果敢激进。就在最近，SKT还宣布了一项新计划，将致力于建设所谓的“AI基础设施高速公路”，以AI数据中心（AIDC）、GPU即服务（GPUaaS）和边缘AI三大主轴为中心，在全国范围内构建AI基础设施，从而成为亚太地区的“AI枢纽中心”（AI Hub）。

SKT首席执行官Yoo Young-sang表示：“迄今为止，通信基础设施一直是关于网络连接的竞争，也即网速和容量的较量，但现在网络演进的范式必须改变了。未来，6G将发展成为融合通信和AI的下一代AI基础设施。”

此前在2024年6月，SK电讯与德国电信（Deutsche Telekom）、e&、新加坡电信（Singtel）、软银（SoftBank）共同宣布成立全球电信人工智能联盟（GTAA），联盟成员同意成立一家合资企业，开发专门针对电信行业的大语言模型，这是对利用海量电信数据的一次主动尝试。

市场研究公司Omdia在一篇报告中写到，现有大语言模型的局限性引发了打造Telco LLM的想法，这是一种先进的大语言模型，可以为AI服务配备电信行业知识，以了解用户的意图。Telco LLM将推动AI转型并提高客户服务质量标准，同时还具有提升生成式AI表现的潜力。

Omdia资深分析师Harith Abdul Hadi指出，在生成式AI当中打造Telco LLM的目的是简化员工的工作流程，更重要的是，支撑运营商在各个领域（例如咨询、研发和营销）的AI转型计划，包括将运营商的新业务与核心业务相结合。电信公司将能够留住人才并使工作变得更有趣，特别是在需求下降的领域（例如客户服务、后端运营）。

不过，也有电信运营商对于是否需要打造专门的Telco-LLM持怀疑态度。例如，欧洲大型电信运营商Orange就表示，从商业角度来看，目前最好的做法是对现有模型进行微调，而不是从头开始构建自己的大模型或对现有的大模型进行全面的再训练。Orange认为，对“特定的”电信大模型的需求仍是一个需要探讨的问题。

因此，Orange并未将过多的精力放在构建特定的大模型上，而是持续通过开发自己与现有大模型的接口来探索通用大模型应用。