资讯 智能硬件
此为临时链接,仅用于文章预览,将在时失效

OPPO:用AndesGPT迎接下一个十年

作者:马广宇
2023/11/16 22:19

“大模型”是2023年互联网发展技术趋势的关键词,此刻OPPO也迈入大模型竞逐的下半场。

2023年初,国内大模型领域受到ChatGPT的影响,“百模大战”迅速进入白热化。今年8月,随着《生成式人工智能服务管理暂行办法》的正式施行,文心一言、百川大模型、智谱清言等大模型应用正式向全社会开放。

当下大模型逐渐“面向全社会”,意味着大模型之间的竞争已经跨过前期积累,进入到技术应用落实阶段。行业重心的倾斜,让模型与参数的比拼不再是重点,对大模型存在价值的思考才是关乎企业存亡的核心所在。

今年8月份开始,OPPO、vivo、华为、小米等Top级手机厂商围绕着海量的硬件和富有创造力的落地方案,宣布正式进军大模型领域,通过聚焦手机和生态体验的差异化,瞬间成为整个行业关注的焦点。

这里的原因有三点:

第一,手机厂商作为最接近消费者的硬件厂商,多年的深耕可以帮助其更准确、直接地抓住用户需求,甚至更深入地参与到手机系统的定制当中,实现更有价值的落地方案。

第二,海量的用户群。根据数据统计,整个2022年国内智能手机的出货量已经达到2.64亿部,手机厂商通过OTA能够迅速将大模型部署到原有设备上,通过用户的使用数据为大模型的成长提供最好的养料。

第三,单一的硬件和完全依靠云侧的方案难以推动AI进一步发展,软硬件的高度协同是拓宽大模型边界的关键所在,想要实现场景体验的新突破,打通上下游无疑是AI发展的未来趋势。

这场蓄谋已久的竞赛,让手机厂商间的竞争焦点从技术转变为市场。谁能获得用户的青睐,谁就获得了“下个十年”。

安第斯大模型,不止大模型

让用户感知到技术突破的真实价值与更优质的体验,是对大模型来说是既简单又困难的一件事。

大模型在三大要素:算力、模型、数据的不断影响下,早已超过行业内最初的预期,它不再是一种工具,而是成为一种创造力的源泉。

但技术突破是一回事,用户的感知与体验却是另一回事。

在11月16日OPPO的开发者大会上,OPPO正式推出了自主训练的大模型AndesGPT。据介绍, AndesGPT有三大类规格:AndesGPT-Tiny、AndesGPT-Turbo和AndesGPT-Titan,可涵盖十亿至千亿以上多种不同参数规模的模型规格,根据不同场景智能调度。

OPPO:用AndesGPT迎接下一个十年

其中最值得注意的是AndesGPT对To C领域的支撑。OPPO多年来的「用户导向」决定了大模型业务会向着产品体验倾斜。而这恰恰是“百模大战”中所缺少的:让用户感知到技术突破的真实价值与对体验优先的坚持。

近年来OPPO在中国市场成绩斐然,仅2023年上半年出货量就达到了2400万台,成为国内手机市场第一名,另外,ColorOS存量用户群体也愈加庞大,目前已经达到了6亿。庞大的用户基数早已让AndesGPT没有落地场景之忧,有充足的时间和精力去提高技术力、解构用户需求。

但想要在高频用机场景中将AndesGPT渗入到用户的日常生活,这并不是一件容易事。OPPO内部通过不断地推演与论证,最终选择将“对话增强”、“个性专属”,以及“端云协同”作为突破点,来作为AndesGPT的差异化特征,成为ColorOS底层架构的一部分。

通过以上三点再结合AndesGPT所提供的能力,我们可以更好理解OPPO大模型的差异化打法:

在AndesGPT的定义中,“对话”是GPT记忆能力、逻辑推理能力、模糊意图理解能力、生成能力等等的一个集合,作为大模型与用户沟通的桥梁,“对话”的重要性不言而喻。面对这座大山,坚持长期主义的OPPO做出了与“愚公”相同的选择。

在2020年,OPPO 就已启动预训练语言模型的探索与实践,自研了一亿、三亿和十亿参数量的大模型 OBERT,通过不断地技术积累,OBERT 曾一度跃居中文语言理解测评基准CLUE1.1 总榜第一梯队,还获得了大规模知识图谱问答 KgCLUE1.0 排行榜第一的成绩。

在沉淀了OBERT的技术经验之后,AndesGPT融合海量中文对话数据、精品知识图谱,以及高质量 QA 问答数据,结合对预训练、指令微调、人类反馈强化学习等技术的定制优化,显著提升了模型知识与百科能力的覆盖面和准确性。

此外,为保证连贯持续对话中的优质体验,OPPO还提出了一些技术上的变革思路:

首先,OPPO为AndesGPT引入了长时记忆机制,支持无限长度的上下文记忆,其中包括用户交互过程中产生的交互历史、个人数据,以及从中提取的结构化信息等。这意味着AndesGPT能够凭借记忆,成为一个只属于用户自己的超级助理。

而想要保证长时记忆流畅的使用体验,AndesGPT要拥有足够的吞吐速度和检索能力。针对这一技术难题,OPPO选择了独创新技术:SwappedAttention 来攻克推理时长的难题。SwappedAttention 通过外部存储和KV压缩的方式,能够实现会话级KV缓存,在多轮长上下文对话中能有效降低每个query的首字推理时长,结合原有 PagedAttention 算法,能够带来50%的首字延迟降低和30%的推理吞吐提升。

OPPO:用AndesGPT迎接下一个十年

技术上的支撑保证了AndesGPT「千人千面」的个性化使用体验。在没有引入大模型前,用户的语音交互只能得到一个成型的固定答案;而在引入大模型后,带有专属记忆数据的语音交互可以依托广泛的知识体系,实现更具价值的互动。

今年9月,AndesGPT参与了 SuperCLUE 的能力测评,在知识与百科方面获得了 98.33 的高分,位列 SuperCLUE 知识与百科能力排行榜中的全球第二、国内第一,尤其是通用问答与对话能力,极为出色。

AndesGPT的肌肉已经足够健硕,但OPPO对其的期望却不止于此。

去年,智慧跨端系统潘塔纳尔随着技术的升级应运而生,打破了不同设备、系统、服务之间的壁垒,如今新的行业新的大势出现,「体验为先」的OPPO决定用AndesGPT,与潘塔纳尔系统深度协同,赋能ColorOS整体生态。

大模型怎么在端云之间协作,给用户提供最佳的体验,一直是OPPO非常看重的命题。端侧有着更低时延、更低功耗、更好的用户隐私安全保障,但在弱网、无网、复杂计算等场景下仍旧存在局限性。以内容创作为例,简单的短文本内容创作在端侧就能提供支持,而在复杂的长文本内容创作中,纯粹的端侧可能会无法生成令人满意的结果,所以OPPO认为结合端侧与云侧的优势才是手机行业大模型的必然演进方向。

作为OPPO端与云之间连接的纽带,AndesGPT更像是一个启动按钮,联动上下游激活了OPPO所有的布局,通过协同、互补、协作三方面,让AndesGPT彻底成为OPPO底层架构的一部分。

在大模型发展的第一阶段,“快鱼吃慢鱼”是业内的共识;而如今到了第二步,谁能将能力落到实处,谁才掌握了主动权。

OPPO早在今年3月份就把大模型作为内部重要的战略级投入赛道,将“一切以用户需求为中心”的思想贯彻整个大模型研发周期。多年的“长期主义”使得OPPO在面对新领域、新技术时,仍能保持冷静的心态洞察用户需求,坚持技术积累,静静等待爆发的关键节点。也让安第斯大模型,不止大模型。

(雷峰网)

OPPO大模型生态的“关键按钮”

生态是大模型最重要的一环。

今年11月初,OpenAI举办了历史上首届开发者大会,并在大会上宣布了一个令所有AI开发者都无比激动的新项目:GPTs。

GPTs最大的意义在于,无需任何编码知识,仅通过互动的形式,使用者就能拥有一个专属的GPT。另外,使用者也可以将其上架到GPT Store中,提供给其他用户使用。

GPTs引起行业轰动,无非就是做到了两件事:第一是无门槛化,任何人都能生成更符合自己的GPT;第二个就是生态的雏形,当有足够多的GPTs丰富应用商店时,量变引发质变,ChatGPT会拥有属于自己的生态,甚至属于大模型的操作系统。

有这种想法的不止OpenAI,在遥远的大洋彼岸,OPPO也有着同样的思考。

在OPPO开发者大会当天,OPPO宣布了一个新的计划:开源智能体框架。B端和C端的用户可以通过低代码,甚至零代码去构建自己的AI应用,让所有人都能参与到OPPO大模型应用生态的共创与建设中来。

OPPO:用AndesGPT迎接下一个十年

在对智能体框架开源的思考中,OPPO保持了「体验为先」的核心策略,使AndesGPT能一直前行在正确的道路上。

OPPO的策略侧重于丰富它的工具属性,智能体框架将提供能够完全适配和充分挖掘AndesGPT能力的prompt。这样,不懂代码的普通用户,也能轻松定义和分享AI原生应用,一起构建更完善的大模型生态。

在开发者大会上,OPPO也宣布搭载安第斯大模型能力的全新小布跟随ColorOS14正式发布,除了大模型必备的超级问答、内容创作和图片创作等能力,全新小布还化为用机助手和日程助理,此外,智能体也在全新小布上浮出水面,体验令人期待。

OPPO:用AndesGPT迎接下一个十年

在“投资未来”的长期主义驱动下,完善的生态是一切是OPPO大模型的关键,大模型构建了生态,但大模型也仅仅是生态的一部分。AndesGPT多年的技术积累正逐渐成为OPPO底层架构的一环,模型能力不断进化,为ColorOS提供坚实的智能化技术底座。

在竞逐大模型的路上,OPPO是少见且难得的“清醒者”

安第斯山脉是陆地上最长的山脉,位于南美洲的西岸,在狭长的山脉两侧,一侧气候干旱,一侧茂盛,天然的屏障构成了无法逾越的生态壁垒。

大模型生态的构建不是一件容易的事,这需要长久的耐心和“不争先”的核心决策。回顾过去,区块链、元宇宙、AR等技术的发展离不开“噱头”二字,“快鱼”吃掉了“慢鱼”,却也让快鱼消失在时代的浪潮之中。

OPPO:用AndesGPT迎接下一个十年

“对的路不怕远”是OPPO发展的精神内核。回顾手机发展历史的多个节点,无论是OPPO所坚持的超级闪充与电池健康,还是依托潘塔纳尔系统所带来的万物互融,OPPO都选择了“难而正确”的决定。同时也正是这种极致的细节打磨,让OPPO在混乱的“百模大战”中保持了难得的清醒。

在OPPO大模型立项之初,行业内就已经存在非常多的开源与闭源大模型,当时摆在OPPO面前有两条路线:与其他企业进行合作还是从零开始研发?

OPPO选了一条最难也是最远的路。

经过内部反复的推演与论证,OPPO发现使用现有的大模型产品并不会对产品提供更好的体验。以信息获取为例,用户最核心的诉求是获得专业、可信、安全的内容,而目前多数大模型都存在“幻觉”的问题,这也使得用户难以判断什么时候可以采信大模型的结果。

相反,OPPO小布助手在2021年月活量就已经过亿,有着大量真实的用户互动场景和高质量语料数据积累。在愈演愈烈的行业风口面前,求真、务实的OPPO在明确方向和需求之后,开始全面加大研发投入,确定构建“最核心的底层技术”以及“软件工程和系统能力”,并积极与头部芯片厂商进行深度合作,率先在行业采用 4 位量化技术,实现精度不掉点效果下更优的端侧化性能,同时这也是目前业内效果较为领先的端侧大模型部署方案。

身为一家将“长期主义”刻在骨子里的企业,OPPO的每一步都走在「用户体验为先」的道路上,也正是这种将产品体验做到极致的追求,让OPPO一步一步地成为行业中的领头羊。

随着安第斯大模型成为ColorOS的“关键按钮”,OPPO终于要迎来未来的“新十年”。

(雷峰网(公众号:雷峰网)

长按图片保存图片,分享给好友或朋友圈

OPPO:用AndesGPT迎接下一个十年

扫码查看文章

正在生成分享图...

取消
相关文章