资讯 行业云
此为临时链接,仅用于文章预览,将在时失效

大模型落地难?「智能终端」或成破局关键

作者:徐晓飞
2024/06/07 17:52

大模型落地难?「智能终端」或成破局关键

技术发展的最终目的是推动产业变革。自去年下半年起,大模型的叙事已悄然转变,由此前单纯追求“做大模型”转向更加注重“用大模型”。

但随之而来的是“大模型落地难”的困扰。究其原因,大模型复杂的训练需求、高昂的数据和算力成本,以及对应用场景的精细适配,对资金、技术和行业知识都有极高的要求,这些是拦在大模型落地面前的“三座大山”。

不过,近期一批“智能终端”正通过与云厂商展开合作,逐渐崭露头角,有望成为大模型应用落地的爆发点。

“软、硬件结合可能是大模型率先落地的突破口。”多位业内人士指出,随着多模态大模型的能力不断增强,手机、个人电脑、头显、汽车、机器人等智能终端有望迎来新的爆发。在这方面,国际上目前苹果、谷歌、特斯拉都已宣布正式入局。

在北科瑞声创始人、国家重大人才计划特聘专家刘轶博士看来,电脑、手机、手表等终端是离用户最近的信息入口,与大模型结合后,终端设备可以更加灵巧、智能,成为真正的“助理”,这将加快AI技术的普及。

放眼国内,一众消费级头部厂商也在积极投入实践。

6月6日,雷峰网(公众号:雷峰网)从阿里云深圳AI峰会上获悉,不少主流手机、PC、汽车厂商都已在大模型领域选择与阿里云展开深度合作。

其中,国产手机品牌 vivo 利用大模型技术在帮助视障人士方面取得了较大进展。中国目前有大约1730万视障人士正因视力障碍而处于生活不便,而大模型技术一定程度上打开了他们的“视界”。目前“vivo看见”累计服务用户已超十万。

在阿里云深圳AI峰会上,vivo AI研究院人工智能部总经理郝雄讲述了这样一个故事:七年前中途失明的生活博主“宝哥和他的导盲犬”用视频记录了他使用“vivo看见”乘高铁出行的全过程。他“看见”了高铁窗外的风景、桌上的水杯,“分清”了酒店里的洗漱用品。“vivo看见”为他描述路边的月季花,唤起了他似曾相识的童年回忆。

大模型落地难?「智能终端」或成破局关键

在这些“有温度”的场景背后,是vivo自研蓝心大模型的支持。郝雄表示:“从去年开始,vivo就加紧大模型的研发,基于阿里云PAI机器学习的千卡大模型预训练性,目前能接近LLaMA水平。”此外,vivo蓝心大模型也已对vivo手机的AI影像、智能助理、图文创作等场景进行了全面优化。

新能源车领域,小鹏汽车在会上宣布已在智能座舱场景中新增接入阿里云“通义千问”。据了解,基于小鹏自研大模型XGPT和通义千问等模型升级后的车载助理 “小P”,可以在用户说“有点冷”时,准确理解意图、调节车内温度。

大模型的落地,离不开云计算这一支撑力量。阿里云智能集团副总裁、公共云首席解决方案架构师韩鸿源在6月6日阿里云深圳AI峰会上表示,目前正处在生成式AI的爆发阶段,而云计算能帮助用户降低使用生成式AI的难度、有效运用技术负载。

在他看来,大模型对包括云计算在内的技术都提出了更多挑战。比如大模型对计算能力的需求空前增长,需要持续运行训练任务数周甚至数月,才能获取结果。在数据方面,TB、PB级数据常态参与密集计算,以确保结果精确。

同时,在开发过程中,模型探索涉及众多技术基础工作,需有效平台支持以高效运转。部署上,今天绝大部分与AI相关的工作都承载在云上,绝大部分组织都使用了云能力才让AI有效地发挥作用。

韩鸿源认为,模型使用阶段可分为两段:在大语言模型刚出现时,企业热衷于模型微调,即针对特定业务方向,将领域知识注入模型,以期模型按自己希望的方式回答问题,处理请求。

但如今,这种需求已不如从前强烈。原因在于,随着基础模型泛化能力的提高,其能处理的任务越来越多,模型微调未必是最佳选择。此时,模型即服务、为企业提供有效运行模型的平台,成为重要发展方向,而这也正是阿里云等一众服务商们的关键切入点。雷峰网雷峰网

长按图片保存图片,分享给好友或朋友圈

大模型落地难?「智能终端」或成破局关键

扫码查看文章

正在生成分享图...

取消
相关文章