9月7日,2023腾讯全球数字生态大会于深圳举办。会上,腾讯首次对外公布腾讯混元大模型进展,并宣布从技术底座、平台能力、智能应用三大维度升级MaaS能力。基于自研腾讯混元大模型,同时支持业内20余款主流开源模型,助力客户构建专属大模型及智能应用,加速模型产业落地,推进“效能革命”。
升级后,腾讯云行业大模型精选商店将进一步扩容,能为客户提供不同规模的模型服务;大模型训练、精调工具链,可以帮助客户更快、更低成本地打造“更实用”的专属模型;同时,依托腾讯多元的PaaS、SaaS产品矩阵“试炼场”,用户也能够快速装备即插即用的模型能力。
会上,腾讯云与信通院还共同发布了《行业大模型标准体系及能力架构研究报告》,参考腾讯云在行业大模型产业应用领域的实践和经验,为客户构建行业大模型提供了标准化流程、综合评估方法,以便更好地帮助行业伙伴构建专属大模型。
腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生表示,腾讯着眼于产业实践建设行业大模型的思路已得到了业界的普遍认可。通过“行业大模型+企业数据精调”方案,腾讯帮助产业伙伴打造适合自己的大模型产品,解决企业应用大模型过程中面临的专业度、准确度、数据安全、成本等诸多挑战。技术变革和客户需求的快速发展,推动了腾讯云MaaS服务能力快速迭代升级。
腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生
会上,腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声认为,当前企业在大模型领域探索已过“尝鲜期”,产业实践将成为检验大模型价值的重要标准,大模型在产业领域应用的“纵深度”也将持续拓展。基于此,腾讯云行业大模型从技术底座、平台能力、智能应用三大层面升级,加速模型落地进程。
技术底座方面,由腾讯自研的混元通用大模型首次公开亮相。吴运声表示,腾讯混元大模型是腾讯云行业大模型的坚实底座,其不仅有出色的中文创作能力,还具备在复杂语境下的逻辑推理能力以及可靠的任务执行能力,并已在腾讯内部多个产品和业务中成功接入并获得显著成果,并将通过腾讯云陆续面向行业客户开放。
腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声
而为了满足企业、开发者多元的模型需求,腾讯云还率先宣布上架和支持开源模型,接入了Llama 2、Falcon、Bloom等20多个行业最新主流的开源模型,覆盖智能对话、文本生成、写作等丰富应用场景。客户可利用腾讯云TI平台对上述开源模型进行训练,基于Jupyter Notebook快速启动模型精调,低代码操作完成模型部署。
同时,腾讯云也对平台能力进行了大幅提升。升级后的TI平台工具链,接入腾讯云HCC高性能计算节点及星脉高性能计算网络,可提供3.2Tbps的网络带宽。全新升级的太极Angel大模型加速框架,较行业常用方案性能提升30%以上。全新的工具链,具备高性能的大模型精调与部署能力,覆盖大模型开发、应用全生命周期,让客户只需加入自己独有的场景数据,即可在短时间内精调出专属的模型方案。
此外,企业也可接入腾讯升级后的SaaS、PaaS产品矩阵,通过丰富的、即插即用的智能应用,快速装备模型能力。升级后的智能客服机器人扩展了知识边界,大幅提升接待对话体验,减少运营成本;企点分析AI助手,通过“对话式数据分析、辅助分析模型配置更新、智能结论提取、一键生成分析报告”等核心能力,改造传统分析流程,提升企业数据的分析洞察产出效率;全新发布AI大模型加持的“通用口型”版小样本数智人,无需训练,上传素材1小时内即可获取专属数智分身。
会上,吴运声表示,“腾讯云将不断完善MaaS能力,与广大客户和合作伙伴携手,共同迎接AI大模型时代的‘效能革命’。”作为行业大模型“实战派”,腾讯云目前已落地文旅、泛互、零售、能源、医疗等20多个行业,并覆盖生产、销售、客服等多个环节,并已经在头部客户中打造多个最佳实践。
比如某科技公司搭建大规模建模平台时,面临人力、物力、资源等缺乏问题。腾讯云MaaS为其提升了自动驾驶领领域的2D感知、3D感知类建模任务的训练性能,实现轻量化运维和接入。提供高性能算力集群及训练加速能力,训练性能提升40%;打通高性能分布式文件存储和高性能计算节点,大幅提升算力资源利用率。
文旅领域是客服应用的集中场景,对模型应用的效率有强烈的提升需求。腾讯云联合某线上旅游OTA公司,共同探索文旅行业大模型的应用,改善传统智能客服对话配置中知识维护量大、耗时长、人力成本高等痛点。精调后的客户专属模型,无需配置对话流程,即可实现端到端解决业务问题。提升任务完成率,降低对话构建成本。
内容创作对大模型的生成速度、理解能力要求高,是最能验证大模型场景广度的领域之一。腾讯云MaaS助力阅文集团文生图、图生图的推理部署和加速。C端用户应用需要提供高QPS、低模型耗时的方案,阅文基于腾讯云TI平台搭载的Angel推理加速引擎,推理能力平均提升30%,将文生文领域成本降低到原来的1/4。此外,TI平台提供动态batch和自动服务调度机制,大幅提高了服务吞吐量,模型优化和部署模块一键加速和发布模型,极大减轻了服务部署的维护成本。
而政务领域则需要大模型深入应用场景,更加专业、可靠。腾讯云助力某税务部门打造专属政务大模型,解决传统智能客服知识边界受限,问题拦截率、覆盖率低,政策法规、办事指南的持续迭代造成后续运营维护成本高的问题。升级后的客服系统,从知识采集到知识运营均实现智能化升级,成为“税务领域的知识专家”和“紧跟法规、指南的税务助手”。
行业大模型的落地与拓展,需要标准化的流程与评估体系。会上,腾讯云与信通院共同发布了《行业大模型标准体系及能力架构研究报告》(以下简称“报告”),帮助行业伙伴更好地构建专属大模型。
《行业大模型标准体系及能力架构研究报告》发布
吴运声介绍,报告内包括行业需求分析与资源评估、行业数据与模型共建、行业精调与优化部署等关键环节,能够帮助行业伙伴洞悉行业应用场景、模型开发、模型能力、模型应用、模型运营、安全可信等维度,从而对大模型进行综合评估。
中国信息通信研究院云计算与大数据研究所副所长魏凯表示,信通院作为国家信息通信领域的重要研究机构,一直关注AI技术的发展和应用,特别是大模型技术的创新和推广。信通院将与腾讯云深入合作,共同推进行业大模型标准体系的建设和完善,为产业智能化发展提供技术支撑和服务。
“我们希望行业大模型标准体系及能力架构研究,能够帮助行业伙伴解决如何将大模型能力“应用”到自身的行业和场景里的问题,可以更有效的解决成本、数据、安全,合规等大模型实际落地难题。通过建立标准体系,为行业大模型的建设和应用提供指引和支持。”腾讯法务副总裁江波提到。
为千行百业输送行业大模型解决方案的同时,腾讯一直积极参加大模型标准建设。2020年,腾讯被选举为全国信标委人工智能分委会委员兼副秘书长单位,作为核心成员,承担了更多标准制定工作以及技术引领作用。前不久,腾讯云还联合中国信通院发起行业大模型生态计划,并牵头国内首个金融行业大模型标准制订,为金融行业智能化的高质量规范化发展提供重要支撑。
更强的能力、更高的效率、更广的场景、更深的应用,腾讯云行业大模型不断迭代,通过MaaS能力助力产业提质增效。未来,腾讯云将持续升级产品、技术能力,帮助千行百业更高效率、高品质、低成本地创建和部署更实用的AI应用,助力更多实体实现高质量的数智化转型升级。
雷峰网(公众号:雷峰网)