资讯 业界
此为临时链接,仅用于文章预览,将在时失效

高通侯明娟:终端侧生成式AI有望开启智能终端全新升级周期

作者:nebula
2024/05/17 11:11

5月16日,以“数字创新赋能新型工业化”为主题的2024世界电信和信息社会日大会暨系列活动(以下简称“517大会”),在浙江宁波拉开帷幕。作为517大会首日举行的平行论坛之一,AI终端未来之路论坛以“AI已来,终端未来”为主题,汇聚产业链各方代表,聚焦生成式AI等前沿创新技术、AI终端产业发展趋势等话题进行深入探讨。

高通侯明娟:终端侧生成式AI有望开启智能终端全新升级周期

论坛开始,高通全球副总裁侯明娟带来题为“推动终端侧生成式AI时代到来”的主题分享。她表示,行业正面临着AI发展的绝佳机遇,持续创新让高通公司始终处于终端侧AI解决方案最前沿。通过提供业界领先的硬件和软件解决方案,高通正携手合作伙伴,共同推动生成式AI规模化发展,让终端侧生成式AI无处不在,打造万物智能互联的未来。

在之后的圆桌讨论环节,来自中国移动、GSMA、高通、OPPO、vivo、中赫集团的产业链企业和机构代表,就“AI重塑智能终端产业”、“AI终端赋能新型工业化和企业数字化转型”等话题展开讨论,共话生成式AI为智能终端产业带来的广阔发展机遇。

以下为主题分享环节实录:

各位嘉宾、行业伙伴们,大家好!我是高通公司侯明娟,很高兴与大家探讨生成式AI为智能终端产业带来的全新机遇。今天我想与大家分享高通公司在AI方面的动态,以及关于未来的思考。

我在来参会的飞机上,看到最新的市场调查报告显示,目前中国用户使用手机上网的平均时间大约是每个月160小时,每隔6.5分钟就要看一次手机,一天要看150次。我个人觉得,这个平均数也许对于多数用户来说是偏低的,有的用户使用时间更长、频率更高。

高通公司,以及今天在座的各位从业者,都面临着AI发展的绝佳机遇。在用户触手可及的智能手机、移动PC和网联汽车等终端中,很多AI功能已经实现。

在今年2月份的MWC世界移动通信大会上,高通携手荣耀、小米和OPPO等合作伙伴带来了终端侧AI演示。如今,手机已经是世界上覆盖规模最大的工业产品之一,每年出货量近12亿。对于手机行业从业者来说,我们已经站在了终端侧AI的潮头,能够让更多消费者享受到AI带来的便利,比如,通过AI数字助手打造全新的移动功能和体验,这是已经实现的终端侧生成式AI。

在汽车领域,近期发布的很多新款智能汽车都使用了骁龙数字底盘解决方案,包括骁龙座舱平台(骁龙8295和8155)等,我们对此感到非常荣幸。车内的数字语音助手,以及AI支持的智能驾驶、路线规划、轨迹和行为预测等功能正在逐步实现。包括极越、理想、小鹏在内的合作伙伴们基于骁龙8295的车型发布了车端的大模型功能。

在PC方面,高通参与了上个月联想在上海举办的Tech World 2024,我们正在共同推动AI作为生产力工具的不断演进,包括生成原创内容、提升工作效率等。消费者和企业用户,可全天候利用骁龙X系列平台AI增强的终端侧工具,提升生产力、创造力和协作能力。

高通侯明娟:终端侧生成式AI有望开启智能终端全新升级周期

随着生成式AI的飞速普及和计算需求的日益增长,云经济难以支持生成式AI规模化扩展,云端必须与终端侧协同运行AI应用。基于云端的AI应用和在移动设备侧运行的AI应用两者之间的关系,可以概括为“大事问云端,小事问终端”。通常而言,用户使用基于终端的AI应用会更多一些。对于用户而言,终端侧AI更方便快捷、隐私性更高。比如,有时候父母可能出于隐私的考虑,不愿意将小朋友的照片分享到云端;利用终端侧AI,厂商可以让用户即使在飞行模式不联网的前提下,也能快速使用生成式AI的相关功能。从行业的角度考虑,一方面,传统搜索方法和生成式AI的查询成本存在很大差异——基于生成式AI的搜索,单次查询成本是传统搜索方法的10倍;另一方面是出于对功耗的考虑,在云端运行一个超过10亿参数的生成式AI模型,往往需要数百瓦的功耗,但是在终端侧运行只需要几毫瓦。

高通认为,混合AI是AI的未来。对于比较大型的运算,我们可以通过云端实现;针对需要保障即时性、可靠性、个性化、隐私安全的内容,以及从节省成本的角度考虑,我们可以在终端侧运行AI模型。要真正释放生成式AI的全部潜能,AI处理的重心需要向边缘侧转移。相比仅在云端运行AI模型,混合AI架构更加方便快捷。通过混合AI架构,AI在云端、边缘云和终端侧协同运行,使整个系统中的计算和处理能力以最有效的方式重新分布。

终端侧生成式AI已经到来,今天在座的几位合作伙伴,都已经发布了搭载高通最新一代旗舰移动平台——第三代骁龙8的终端产品。以手机为例,智能手机是释放AI技术潜力的关键载体,因为它是消费者在日常生活中使用频率最高的终端。

高通侯明娟:终端侧生成式AI有望开启智能终端全新升级周期

去年10月,高通推出了首个专为生成式AI打造的移动平台——第三代骁龙8;当前,市场上包括OPPO、vivo在内的多家OEM厂商和智能手机品牌推出的多款手机,都采用了这款最先进的、专为生成式AI设计的芯片,这些产品也都受到了客户和消费者的关注和喜爱。

第三代骁龙8支持运行高达100亿参数的生成式AI模型,以每秒20 tokens的速度运行大语言模型。除了优秀的AI能力,第三代骁龙8还带来了影像、安全、音频、连接等领域的全方位升级体验。提到影像领域,在第三代骁龙8强大的AI性能加持下,包括OPPO、vivo在内的OEM厂商和智能手机品牌,他们推出的智能手机影像体验都非常出色,完全不输给专业的影像设备。实际上,现在已经很少有人随身携带大型相机出门,因为我们的手机已经实现了非常好的影像功能。

在MWC巴塞罗那期间,我们也和OPPO、vivo等合作伙伴共同展示了一系列搭载第三代骁龙8的商用旗舰AI智能手机,支持出色的生成式AI特性,例如图片AI消除、AI赋能的照片扩展和照片魔法擦除等。假设某张图片上有一个路人或一些电线遮挡画面,我们就可以通过这些功能轻松消除。此外,智慧创建日程、智慧成片还有图像扩充等功能都已经实现,并且大家都可以很方便地使用这些功能。

在中国,已有超过20款搭载顶级骁龙旗舰移动平台的商用终端面市,为消费者提供了多样化的选择。我们相信,终端侧生成式AI会带来新一波的智能手机换机浪潮,不论是从中国移动、OPPO、vivo,还是高通的角度来看,我们的共识是希望为智能手机市场,开启基于AI的全新升级周期。

再以PC为例,在去年的骁龙峰会上,除了面向旗舰智能手机发布第三代骁龙8,我们还发布了骁龙X Elite平台,这是专门面向PC打造的处理器,支持高达45 TOPS算力,为PC带来全球最快的NPU,同时实现了行业一流的能效和续航能力。我们总说,高通公司就是为移动技术而生的,我们在功耗控制、续航、移动计算等方面,都有着长期的积累和领先的技术优势。

此外在今年4月,我们还扩展了骁龙X系列平台产品组合,推出了骁龙X Plus平台。骁龙X Plus采用了先进的10核高通Oryon CPU,支持高达45 TOPS的NPU,助力消费者和企业用户,能够全天候利用骁龙X系列平台AI增强的终端侧工具,提升生产力、创造力和协作能力。

在XR领域,我们也与包括中赫集团在内的生态伙伴合作,取得了很好的成果。在改造北京新工体的过程中,葛总和他的团队倾尽全力,以创新技术推动传统体育向智慧体育转型,让更多不能到现场的足球粉丝能够通过XR技术接入现场,获得如临现场般的真实感受。

我们与中国移动、中赫集团合作,推动5G无界XR赛事体验方案的演进和落地。2022年7月,我们一起展示了5G无界XR赛事体验方案,共同探索了“智慧工体”建设新路径。2023年8月,我们首次实现了基于5G现网的网业融合元宇宙足球应用体验,工体可容纳的观众数量有限,如果更多球迷也想观看比赛,可以通过元宇宙进入现场,感受身临现场般的观赛体验。如果用户对哪位球星感兴趣,可以特别详细地观看这位球星的全方位场上表现。基于将5G无界XR赛事体验方案带进工体的经验,未来也能够将这一解决方案扩展到足球之外的更多体育赛事,实现元宇宙观赛。这一方案也在很多行业展会上亮相,在世界人工智能大会、“绽放杯”5G应用征集大赛等活动中多次荣获权威奖项的认可。此外,我们也在多个展会上与各方专家和领导都有交流,他们也都亲身体验了虚拟足球比赛的现场感。相信随着技术的不断发展,未来的XR应用将更加逼真。

高通侯明娟:终端侧生成式AI有望开启智能终端全新升级周期 

在汽车领域,生成式AI已经为汽车行业伙伴带来了丰富用例,“AI上车”正在成为现实。举例来说,理想、小鹏、极越等厂商推出的基于骁龙8295芯片的车型,都发布了其车端的大模型功能。随着多模态技术的不断发展,AI模型将迎来更加复杂、多样化的交互场景,在智能座舱、自动驾驶等领域打开全新的应用空间。

最后,我们再谈谈网络终端。具备终端侧AI能力的网络终端,将为整个无线通信系统的运行带来很多增益。通过这些终端,AI能够分布在从云到端的多个环节,支持高效网络规划,持续进行优化,增强服务体验,并且通过端到端的AI协同,提升整个无线通讯系统的性能表现。例如,在AI的加持下,终端能够更全面地把握无线信道的特征和变化趋势,使信道状态预测和反馈更加精准,提升吞吐量和其他关键性能指标。

在今年2月份的MWC世界移动通信大会上,我们还推出了高通AI Hub。它能够为骁龙和高通平台提供超过75款基于平台优化的AI模型,帮助开发者优化产品的开发路径和缩短产品上市时间,让终端侧AI的优势在应用程序上更快更好地发挥。

 高通侯明娟:终端侧生成式AI有望开启智能终端全新升级周期

持续创新让高通始终处于终端侧AI解决方案最前沿,而我们的AI领先优势也得益于与业界的深度合作。无论是高通的异构计算能力,还是可扩展的AI软件工具等,都需要与客户的终端深度结合才能得以实现。凭借消费者最为熟悉的智能终端——手机,终端侧AI帮助消费者更好地体验生成式AI的强大能力。高通也在持续将终端侧AI能力扩展至智能手机之外的更多终端,包括汽车、XR头显与眼镜、PC和物联网等。通过提供业界领先的硬件和软件解决方案,高通助力推动生成式AI的规模化扩展。目前,高通AI引擎赋能的终端产品出货量已超过20亿,我们也特别荣幸能够获得众多用户的认可。

未来,高通期待携手广大合作伙伴,共同推动终端侧AI的变革,让终端侧生成式AI无处不在,打造万物智能互联的未来,谢谢。

雷峰网(公众号:雷峰网)

长按图片保存图片,分享给好友或朋友圈

高通侯明娟:终端侧生成式AI有望开启智能终端全新升级周期

扫码查看文章

正在生成分享图...

取消
相关文章