过去几年中,边缘设备源源不断地生成大量数据,传输至云端的成本变得高昂,越来越多的AI应用被部署在边缘端,以便就地处理数据。
相比云计算,边缘计算在低延迟、高安全性上优势明显,但这种越来越分散和接近用户的数据处理方式,也带来了新的挑战。
由于终端设备的算力有限,且对功耗要求较高,因此在实际的产品设计和应用开发中,如何高效利用边缘计算设备有限的硬件资源,实现最优的边缘计算方案,是开发者们在不断思考的问题。
近日,英特尔举办2024网络与边缘计算行业大会,分享了对AI技术和边缘计算的最新洞察、未来展望及技术与产品的创新。
随着AI更多在边缘端部署应用,AI模型也将逐步从云端向边缘端转移。一场巨大的创新浪潮正在酝酿,当下正处于这一变革的关键时刻。
英特尔高级副总裁兼网络与边缘事业部总经理Sachin Katti指出:“边缘AI的应用领域,已逐步从机器视觉,扩展到大语言模型、生成式AI等新兴领域。未来英特尔也将更多关注大语言模型和生成式AI的开发与应用。”
Sachin Katti将AI的发展可以分为三个阶段:AI辅助时代(Age of AI Co-Pilots)、AI 助手时代(Age of AI Agents)、全功能AI时代(Age of AI Functions)
AI辅助时代,AI是能够辅助我们更高效地工作;
AI助手时代,AI可以自动地执行一些工作指令;
全功能AI时代,智能体之间将能够相互协作。
当下,我们正处在AI辅助时代。
IDC数据显示,中国生成式AI投资2022到2027年五年的复合年增长率达到86.2%。Gartner预测,到2026年,80%的全球企业将使用生成式AI,50%的全球边缘部署将包含AI。
在这一大趋势下,中美两国边缘AI的发展,虽然在技术上有许多相似之处,但在落地策略上存在明显差异。
国外的大模型多用于消费类场景,如 ChatGPT 面向公众开放,Sora 主要面向教育机构用户,这些模型都涉及庞大的数据训练量和参数量。
中国的大模型更多应用于行业领域,通常训练中等规模的模型,并结合自身数据进行定制化调整,这种策略通常涉及多个模型的并行部署,以适应特定行业的需求。
英特尔中国区网络与边缘事业部首席技术官、英特尔高级首席AI工程师张宇博士强调,“中国在AI创新方面发展迅速,许多AI Agent的功能已经初见端倪。比如电信行业的AI大模型产品可以分析网络日志文件,及时发现异常并通知网络管理人员。”
AI与边缘计算的融合正在重塑产业的发展。英特尔中国团队正专注于利用英特尔的软硬件技术,鼓励本地创新,加速AI技术在行业中的应用。
生成式AI为网络和边缘计算带来了许多机遇,同时也在重塑着产品和服务模式。
英特尔致力于为企业提供的,是开放、即插即用的解决方案,以及打造开放、可扩展的系统架构。
“未来合作伙伴不会单单采购芯片,而是需要一整套即插即用的系统解决方案。”Sachin Katti表示,英特尔的服务已经不仅仅局限于硬件供应,还扩展到了应用层、软件以及客户服务支持等多个维度,“主要目的在于帮助客户降低部署的复杂性,实现更加高效、便捷的技术应用。”
在全球市场,英特尔坚持提供统一的软件平台,与此同时,每个市场的本地团队,又会根据当地特定垂直领域的需求,进行微调和定制。这样既能在横向上满足全球市场的一致性要求,又能在纵向上针对本地市场的特殊需求提供解决方案。
在不同行业中,AI技术的应用场景和影响各不相同,英特尔携手众多中国本土合作伙伴,已支持大语言模型(LLM)在教育、制造业等不同行业的落地应用。
在教育领域,AI可以通过分析课堂互动生成教学报告,提高教师的效率。
十余年来,英特尔与希沃在“AI+教育”解决方案的开拓上展开紧密合作。基于英特尔®酷睿™Ultra处理器,希沃在本地即可完成AI教学大模型的运行,并显著提高系统响应速度和稳定性。希沃的产品如今已覆盖17万所学校,260万间教室,服务800万名教师,帮助完成了8亿个生成式课件的制作。
在工业领域,AI可以结合机器视觉和自动化技术,提升生产线的安全性和效率。
面向工业数字化转型升级的迫切需求,科东软件通过先进大语言模型实现任务理解及代码生成,并依托科东智能控制器的多模态视觉语言模型,实现对机器人动作的精准控制,极大简化了开发流程并提升了生产效率。通过在英特尔®酷睿™Ultra 处理器上部署大语言模型,还减少了对算力设备和网络传输的依赖,有效降低了操作延迟,满足工业场景对低延迟和高可靠性的需求。、
边缘计算的特点是碎片化,不同行业和用户对算力和性能的需求各不相同。提供丰富的产品组合和多样化的解决方案,以满足不同用户的具体需求。
数据量的限制是边缘调优的一个常见挑战,英特尔通过自动化手段完成数据标注和训练,解决了数据量小的问题,并结合大规模通用数据模型进行进一步优化。
硬件方面,在算力和能耗的平衡上,英特尔通过创新的冷却技术和智能能源管理策略,实现了高效的功耗管理和性能优化;其集成GPU和NPU解决方案为边缘设备提供了AI计算能力,支持一些AI模型的本地运行,展示了边缘AI的潜力。
在不断推动技术创新和解决方案升级的同时,英特尔也在全球范围内,构建了一个广泛、深入且多样化的合作生态系统。
据雷峰网了解,在这个合作系统中,合作伙伴主要分为三大类,合作方式各有不同:
针对原始设备制造商(OEM)和原始设计制造商(ODM),英特尔协助其进行硬件的设计和生产;
针对直接对接终端客户的系统集成商,英特尔提供定制化解决方案和软件培训,帮助他们显著减少开发时间和成本;
针对软件提供商,英特尔采取直接合作的模式,帮助他们优化软件和应用程序,以便在英特尔提供的多样化平台上高效运行。
作为拥有完整软硬件平台的公司,英特尔在AI领域拥有深厚的积淀与领先优势,提供开放、模块化的解决方案,帮助客户在AI时代以更低总拥有成本(TCO)实现更高价值。
张宇博士补充道,为了推动AI本地创新应用,英特尔还花了很大精力赋能开发者,帮助他们更快更好将想法落地。
今年上半年,中国区网络与边缘事业部和英特尔中国其它事业部合作,共同组织AI创新应用大赛。“除此之外,我们还跟包括开发者、ODM、OEM、系统集成商等合作伙伴来共同制定今后在我们国家适用的AI标准。”张宇博士对雷峰网(公众号:雷峰网)表示。
面向未来的AI转型,英特尔正在引入端到端、可扩展的系统级战略,通过开放的生态系统全速助力企业推进AI创新。
英特尔公司副总裁兼网络与边缘事业部中国区总经理陈伟博士表示:“英特尔对客户的技术支持始终与时俱进,不仅仅是技术的提供者,更是本地合作伙伴的倾听者和同行者,从运用AI进行创新的‘+AI时代’,到今天以AI为主导推动创新的‘AI+时代’,英特尔正站技术转型的前沿,进一步深化战略,确保英特尔的技术更贴近中国用户,更深入地推动各行业的数字化转型。”
数年深耕,通过持续不断的软硬件平台和产品创新,积极推动边缘AI等新兴领域的拓展,相信英特尔将与合作伙伴和客户共同迎接一个由AI驱动、智能优化的全新时代的到来。