资讯 业界

雷锋前线 | 筹划 3 年,云知声发布首款面向 IoT 的 AI 芯片

作者:刘芳平
2018/05/16 16:02

雷锋前线 | 筹划 3 年,云知声发布首款面向 IoT 的 AI 芯片

5 月 16 日,物联网人工智能服务商云知声在北京举行“匠芯 致物”发布会,推出全球首款面向 IoT 的 AI 芯片 UniOne 及其解决方案——雨燕(Swift)。

云知声创始人/CEO 黄伟表示,“在 AIoT 市场加速爆发的今天,云端方案在网络、带宽、能耗、隐私以及边缘计算等方面的限制,使得面向物联网的 AI 芯片成为必然选择。在推出芯片产品之前,云知声已在家居、智能音箱、儿童机器人等市场方面,基于通用芯片方案(IVM)百万级出货量的产品形态,验证了芯片市场、产品和用户场景的合理性。第一代 UniOne 物联网 AI 芯片雨燕量产后,将能快速切入市场客户并满足更多产品种类和形态上对成本、稳定性、集成度方面的需求。”

“UniOne 不是一颗芯片,而是一系列芯片,它代表了云知声对于物联网 AI 芯片发展战略的整体构想。” IoT 事业部副总裁李霄寒指出。

UniOne 芯片性能特点

1、提供面向物联网,跨设备形态的 AI 感知能力和本地推理能力;

2、全新深度学习网络架构,支持 DNN、LSTM 等多种网络模型,性能提升 50 倍;

3、面向深度学习的内存调度机制,数据带宽需求下降 90%;

4、重新设计的专用 DSP 处理器;

5、AIOS + AI Chip 的 Turnkey 解决方案;

6、从算法到芯片深度学习加速硬件核心完全自主设计、自主知识产权。

第一代物联网 AI 芯片及解决方案——雨燕

雷锋前线 | 筹划 3 年,云知声发布首款面向 IoT 的 AI 芯片

芯片展示

云知声第一代 UniOne 物联网 AI 芯片及解决方案——雨燕采用 CPU+uDSP+DeepNet 架构,支持 8/16bit 向量、矩阵运算,基于深度学习网络架构,可将面向语音 AI 的并行运算性能发挥到极致,在更低成本和功耗下提供更高的算力。

在架构灵活性方面,雨燕通过 Scratch-Pad 将主控 CPU 与 AI 加速器内部 RAM 相连,可提供高效的 CPU 与 AI 加速器之间的数据通道,便于 CPU 对 AI 加速器运算结果进行二次处理。

另外,连接各个运算单元的可编程互联矩阵架构,提供了扩展运算指令的功能,从而进一步提升硬件架构的灵活性及可扩展性。

同时,芯片采用多级多模式唤醒,从能量检测,到人类声音检测,再到唤醒词检测,针对语音设备及使用场景的定制化Power Domain等技术,可将芯片功耗降低至最低。具体而言,雨燕包括以下几大显著特征:

雷锋前线 | 筹划 3 年,云知声发布首款面向 IoT 的 AI 芯片

雨燕芯片架构

雷锋前线 | 筹划 3 年,云知声发布首款面向 IoT 的 AI 芯片

云知声自研数字信号处理器 uDSP

雷锋前线 | 筹划 3 年,云知声发布首款面向 IoT 的 AI 芯片

雨燕的多级电源模式

雷锋前线 | 筹划 3 年,云知声发布首款面向 IoT 的 AI 芯片

雨燕针对 AI 任务的性能提升

云知声联合创始人/芯片负责人李霄寒表示,云知声不仅提供雨燕芯片和终端引擎,还将应用部分向客户开源,同时提供相应定制化工具以及云端AI能力服务。

通过云端芯结合,云知声基于雨燕提供的是面向一个个具体场景如智能家居、智能音箱、智能车载等的Turn-key解决方案。基于雨燕方案,可让客户站在更高的设计起点,以更低的成本在更短的时间内打造出更稳定可靠的产品。同时,开源的方案也可确保客户基于已提供的 AI 能力自行设计其它各种长尾产品形态,构建更为丰富的 AIoT 生态。

雷锋前线 | 筹划 3 年,云知声发布首款面向 IoT 的 AI 芯片

李霄寒还透露了云知声 AI 芯片发展路径:2019 年将发布支持多模态的雪豹,2020年将推出提供通用 AI 边缘算力的旗鱼。

在本次发布会上,除了UniOne的重磅发布之外,云知声还公布了与京东智能、亿咖通科技的战略合作。在智能家居领域,云知声携手京东智能,推动人工智能芯片在智能家居领域的应用。与京东Alpha平台合力打造定制化智能标杆产品,实现跨品牌、跨品类智能设备的互联互通。针对智能网联汽车领域,云知声将携手亿咖通科技,共同研发汽车前装车规级AI芯片。

为什么要做芯片?

雷锋前线 | 筹划 3 年,云知声发布首款面向 IoT 的 AI 芯片

黄伟指出,无论是 CPU 还是 GPU、FPGA,现有的芯片架构并非为 AI 专门设计,并不能满足物联网 AI 算力需求,且考虑了太多的向后兼容性,因此性能上远非最优。

较之于传统芯片,定制化的 AI 芯片由于应用场景和 AI 算法相对确定,因此在硬件设计上更加专门化,在面向此类任务时相对于通用芯片在计算密度及功耗上有绝对优势。因此,相较通用芯片而言,AI 芯片可以在更低的主频、更小的芯片面积,完成机器学习中同等任务量的计算,做到成本、功耗、算力等多维需求之间的平衡。

黄伟认为,AIoT 的破局点在芯片,原因有三:

UniOne 芯片的研发负责人,李霄寒告诉雷锋网

原来 IVM 的既有市场,像智能家居,在芯片出来之后,可以实现无缝替换,客户那边可能什么都不需要改,直接用新的芯片替换原来那个板子上的老芯片就可以了。


所以,对于客户来讲,更新换代的成本是非常低的,他只感觉到了性能的提升,功耗和价格的下降。

为什么云知声要自己做而不是跟其它厂商合作定制芯片呢?李霄寒表示,

AI 芯片的整体架构还远没有成熟,并不是说像 CPU 一样,采购谁的都一样,没必要自己去重复发明一个 CPU。我们面临的问题和 PC 上的 CPU 问题是完全不一样的。


现在从整个产品定义,到里面的架构都是在一个探索阶段,没有标准化,你去找一个合作伙伴的话,很可能最后做出来的东西不能够满足场景的需求。这也是为什么我们坚决要自己做。


而且我们在这方面有比较大的优势,因为我们做了 2 年多将近 3 年的时间,团队已经从算法到应用到芯片都打磨出来了。后面做芯片的迭代,架构以及整体方案的演进,成本是比较低的。


所以,对于我们来讲,肯定是还是选择自己做,胜过跟别人去合作。

从“云端芯”到“云+芯”

2016 年,云知声 CEO 黄伟接受雷锋网专访时透露了公司的品牌升级方向————从智能语音公司,到物联网人工智能服务商。

而实现这种转型,在产品层面上云知声提出了“云端芯”的概念,通过芯片将终端和云端连接起来。黄伟对雷锋网表示,云知声的人工智能产品包括以下三块:

云知声要做的,是将 AI 芯放进从家电到汽车的各种产品里,让它们都能连网并进行通过语音交互,并连接至云端服务。

2017 年 8 月,云知声宣布获 3 亿元战略投资,融资目的之一就是加大人工智能专用芯片 UniOne 的研发力度,进一步完善以“云端芯”为核心的产品开发和商业落地。5 月 11 日,云知声宣布获得 1 亿美金 C 轮融资。现在,云知声自行设计的 AI 芯片终于在 5 月 16 日对外发布。

发布会上,黄韦宣布,云知声的战略从芯片发布后,将从“云端芯”转变为“云+芯”。

造芯是水到渠成,不是头脑发热

对云知声来说,造芯不是目的,而是手段。人工智能时代,厂商的竞争力在于其向客户提供解决方案的能力,而芯片正是解决方案的重要一环。

李霄寒告诉雷锋网(公众号:雷锋网),云知声设计自己的芯片是一件水到渠成的事,“我们先用一个通用型的方案,去拓展、打磨这个产品,然后找到我们的客户和应用场景。然后,我们再做芯片,去替代原有的产品。”对比之下,一些公司是先设计出芯片再去找客户和应用场景。

而所谓“造芯”,并非是将设计、研发、生产整个流程都做了,“我们不光要涉及到芯片的设计,还要涉及到整个上面的系统,包括相关的云端服务和算法”,李霄寒对雷锋网透露,芯片及方案开发团队有四五十人。

之所以投入的人力并不庞大,是因为云知声只抓最核心的设计部分,包括用于 AI 加速的 NPU、用于信号处理的 DSP 以及其它一些 know-how,其它一些核心模块都采用 IP 复用的方式,这也是当下许多芯片设计所用的方法。

李霄寒认为,做好 AI 芯片的三个关键要素:

UniOne 并不是一款芯片,而是一个产品系列,并让每一款产品在特别的场景下做到极致,“我们会有一系列的芯片,比如第一款芯片解决智能家居领域里面的多模态交互问题,第二款芯片解决车载环境下的一些交互,或者是别的需求,会把它这个方向做到极致。”李霄寒告诉雷锋网。

发布会现场

雷锋前线 | 筹划 3 年,云知声发布首款面向 IoT 的 AI 芯片

AIOS@Home 智能家居解决方案

雷锋前线 | 筹划 3 年,云知声发布首款面向 IoT 的 AI 芯片

部分采用云知声方案的机器人产品

雷锋前线 | 筹划 3 年,云知声发布首款面向 IoT 的 AI 芯片

北京协和医院使用了云知声医疗语音录入解决方案

雷锋前线 | 筹划 3 年,云知声发布首款面向 IoT 的 AI 芯片

AIOS 在车载方向的应用

总结:AI 落地需要芯片

正如前文所说,造芯不是目的,而是手段,真正的目标是如何让产品更好落地到实际应用中。这也是黄伟提出“应用场景定义 AI 芯片”的原因。

在发布会上,黄伟表示,当许多人在为人工智能企业呐喊时,他们所不知道的是这些公司正在走进一片沙漠,在那里,他们又累又喝,努力寻找一个个美好的绿洲,而资本此时在一旁给他们递上水和粮食,支撑他们继续前进。

这个比喻所表达的,正是 AI 虽然火,为所有人所期待,但落地方面却是一个难题。资本当然不是为了支持企业在沙漠中行走,资本押注的是企业能找到绿洲,而绿洲就是巨大的潜在应用场景,需要厂商去挖掘。

2018 年,IoT 成为科技领域的新热点,阿里宣布其为公司第五大赛道,而 IoT 的背后正是人工智能驱动。但人工智能一直以来更多是在云端落地,要落到终端上,边缘算力、连接、和数据处理等需求,以及终端对功耗、性能的需求,都要求有一款专门芯片。

这就是为什么押注 IoT 的公司也在芯片方面布局,云知声在这块可谓走在前列。

相关文章:

2 步让你开发出“中国版 Echo”,云知声要做“中国版 Alexa” | AWE 2017

云知声 CEO 黄伟:坚持才会有收获,今年的营收将突破 9 位数

云知声谢冠超:智能音箱是个伪命题

云知声发布“Pandora”语音中控方案,产品智能化只需6个月

云知声获3亿元战略投资,将加大AI芯片研发

筹划 3 年,即将发布:详解云知声的造芯之路

首发 | 云知声获 C 轮融资 1 亿美金,即将推出 AI 芯片

文章点评
相关文章