5 月 16 日,物联网人工智能服务商云知声在北京举行“匠芯 致物”发布会,推出全球首款面向 IoT 的 AI 芯片 UniOne 及其解决方案——雨燕(Swift)。
云知声创始人/CEO 黄伟表示,“在 AIoT 市场加速爆发的今天,云端方案在网络、带宽、能耗、隐私以及边缘计算等方面的限制,使得面向物联网的 AI 芯片成为必然选择。在推出芯片产品之前,云知声已在家居、智能音箱、儿童机器人等市场方面,基于通用芯片方案(IVM)百万级出货量的产品形态,验证了芯片市场、产品和用户场景的合理性。第一代 UniOne 物联网 AI 芯片雨燕量产后,将能快速切入市场客户并满足更多产品种类和形态上对成本、稳定性、集成度方面的需求。”
“UniOne 不是一颗芯片,而是一系列芯片,它代表了云知声对于物联网 AI 芯片发展战略的整体构想。” IoT 事业部副总裁李霄寒指出。
1、提供面向物联网,跨设备形态的 AI 感知能力和本地推理能力;
2、全新深度学习网络架构,支持 DNN、LSTM 等多种网络模型,性能提升 50 倍;
3、面向深度学习的内存调度机制,数据带宽需求下降 90%;
4、重新设计的专用 DSP 处理器;
5、AIOS + AI Chip 的 Turnkey 解决方案;
6、从算法到芯片深度学习加速硬件核心完全自主设计、自主知识产权。
芯片展示
云知声第一代 UniOne 物联网 AI 芯片及解决方案——雨燕采用 CPU+uDSP+DeepNet 架构,支持 8/16bit 向量、矩阵运算,基于深度学习网络架构,可将面向语音 AI 的并行运算性能发挥到极致,在更低成本和功耗下提供更高的算力。
在架构灵活性方面,雨燕通过 Scratch-Pad 将主控 CPU 与 AI 加速器内部 RAM 相连,可提供高效的 CPU 与 AI 加速器之间的数据通道,便于 CPU 对 AI 加速器运算结果进行二次处理。
另外,连接各个运算单元的可编程互联矩阵架构,提供了扩展运算指令的功能,从而进一步提升硬件架构的灵活性及可扩展性。
同时,芯片采用多级多模式唤醒,从能量检测,到人类声音检测,再到唤醒词检测,针对语音设备及使用场景的定制化Power Domain等技术,可将芯片功耗降低至最低。具体而言,雨燕包括以下几大显著特征:
高性能深度学习加速:面向深度学习和语音信号处理的 AI 定制指令以及体系架构,将面向语音 AI 的并行运算性能发挥到极致,系统运算能力提升50倍以上;
高性能内部互联网络:结合片内 Memory 及内部互联网络,提高片内总线带宽的利用效率提升20倍;
低功耗架构:异构 AMP架构可保证高性能与低功耗的有机结合,从而获得最佳的能效比,更适合IoT场景;
端云结合:混合应用架构设计,获得本地与云端能力的最佳平衡;
雨燕芯片架构
云知声自研数字信号处理器 uDSP
雨燕的多级电源模式
雨燕针对 AI 任务的性能提升
云知声联合创始人/芯片负责人李霄寒表示,云知声不仅提供雨燕芯片和终端引擎,还将应用部分向客户开源,同时提供相应定制化工具以及云端AI能力服务。
通过云端芯结合,云知声基于雨燕提供的是面向一个个具体场景如智能家居、智能音箱、智能车载等的Turn-key解决方案。基于雨燕方案,可让客户站在更高的设计起点,以更低的成本在更短的时间内打造出更稳定可靠的产品。同时,开源的方案也可确保客户基于已提供的 AI 能力自行设计其它各种长尾产品形态,构建更为丰富的 AIoT 生态。
李霄寒还透露了云知声 AI 芯片发展路径:2019 年将发布支持多模态的雪豹,2020年将推出提供通用 AI 边缘算力的旗鱼。
在本次发布会上,除了UniOne的重磅发布之外,云知声还公布了与京东智能、亿咖通科技的战略合作。在智能家居领域,云知声携手京东智能,推动人工智能芯片在智能家居领域的应用。与京东Alpha平台合力打造定制化智能标杆产品,实现跨品牌、跨品类智能设备的互联互通。针对智能网联汽车领域,云知声将携手亿咖通科技,共同研发汽车前装车规级AI芯片。
黄伟指出,无论是 CPU 还是 GPU、FPGA,现有的芯片架构并非为 AI 专门设计,并不能满足物联网 AI 算力需求,且考虑了太多的向后兼容性,因此性能上远非最优。
较之于传统芯片,定制化的 AI 芯片由于应用场景和 AI 算法相对确定,因此在硬件设计上更加专门化,在面向此类任务时相对于通用芯片在计算密度及功耗上有绝对优势。因此,相较通用芯片而言,AI 芯片可以在更低的主频、更小的芯片面积,完成机器学习中同等任务量的计算,做到成本、功耗、算力等多维需求之间的平衡。
黄伟认为,AIoT 的破局点在芯片,原因有三:
AI 落地的关键在于选择场景
应用场景定义 AI 芯片
芯片可以加速 AI 应用落地
原来 IVM 的既有市场,像智能家居,在芯片出来之后,可以实现无缝替换,客户那边可能什么都不需要改,直接用新的芯片替换原来那个板子上的老芯片就可以了。
所以,对于客户来讲,更新换代的成本是非常低的,他只感觉到了性能的提升,功耗和价格的下降。
为什么云知声要自己做而不是跟其它厂商合作定制芯片呢?李霄寒表示,
AI 芯片的整体架构还远没有成熟,并不是说像 CPU 一样,采购谁的都一样,没必要自己去重复发明一个 CPU。我们面临的问题和 PC 上的 CPU 问题是完全不一样的。
现在从整个产品定义,到里面的架构都是在一个探索阶段,没有标准化,你去找一个合作伙伴的话,很可能最后做出来的东西不能够满足场景的需求。这也是为什么我们坚决要自己做。
而且我们在这方面有比较大的优势,因为我们做了 2 年多将近 3 年的时间,团队已经从算法到应用到芯片都打磨出来了。后面做芯片的迭代,架构以及整体方案的演进,成本是比较低的。
所以,对于我们来讲,肯定是还是选择自己做,胜过跟别人去合作。
2016 年,云知声 CEO 黄伟接受雷锋网专访时透露了公司的品牌升级方向————从智能语音公司,到物联网人工智能服务商。
而实现这种转型,在产品层面上云知声提出了“云端芯”的概念,通过芯片将终端和云端连接起来。黄伟对雷锋网表示,云知声的人工智能产品包括以下三块:
AI 芯,目前你可以将其理解成连网的麦克风;
AIUI,用户与终端之间的交互方式,目前主要就是语音;
AI Service,云端服务。
云知声要做的,是将 AI 芯放进从家电到汽车的各种产品里,让它们都能连网并进行通过语音交互,并连接至云端服务。
2017 年 8 月,云知声宣布获 3 亿元战略投资,融资目的之一就是加大人工智能专用芯片 UniOne 的研发力度,进一步完善以“云端芯”为核心的产品开发和商业落地。5 月 11 日,云知声宣布获得 1 亿美金 C 轮融资。现在,云知声自行设计的 AI 芯片终于在 5 月 16 日对外发布。
发布会上,黄韦宣布,云知声的战略从芯片发布后,将从“云端芯”转变为“云+芯”。
对云知声来说,造芯不是目的,而是手段。人工智能时代,厂商的竞争力在于其向客户提供解决方案的能力,而芯片正是解决方案的重要一环。
李霄寒告诉雷锋网,云知声设计自己的芯片是一件水到渠成的事,“我们先用一个通用型的方案,去拓展、打磨这个产品,然后找到我们的客户和应用场景。然后,我们再做芯片,去替代原有的产品。”对比之下,一些公司是先设计出芯片再去找客户和应用场景。
而所谓“造芯”,并非是将设计、研发、生产整个流程都做了,“我们不光要涉及到芯片的设计,还要涉及到整个上面的系统,包括相关的云端服务和算法”,李霄寒对雷锋网透露,芯片及方案开发团队有四五十人。
之所以投入的人力并不庞大,是因为云知声只抓最核心的设计部分,包括用于 AI 加速的 NPU、用于信号处理的 DSP 以及其它一些 know-how,其它一些核心模块都采用 IP 复用的方式,这也是当下许多芯片设计所用的方法。
李霄寒认为,做好 AI 芯片的三个关键要素:
第一,需要对算法有足够的了解,对算法要有 know-how。如果你拿到的是比较普通的算法,可能你的优化也是比较普通的,如果你的 know-how 比较多,那可能优化可以做的比较精细。
第二,需要对芯片重视,要能够设计芯片,把它做出来,能够给出比较好的架构。我们经过 3 年的打磨已经完全具备了这方面的能力。
第三,很多人会忽略的一点,就是对应用的 know-how。做芯片不是军备竞赛,不是说效能比越高,或者说关键参数,主频、制程越高越好。计算力并不是越高越好,而是要满足场景的需求。
UniOne 并不是一款芯片,而是一个产品系列,并让每一款产品在特别的场景下做到极致,“我们会有一系列的芯片,比如第一款芯片解决智能家居领域里面的多模态交互问题,第二款芯片解决车载环境下的一些交互,或者是别的需求,会把它这个方向做到极致。”李霄寒告诉雷锋网。
AIOS@Home 智能家居解决方案
部分采用云知声方案的机器人产品
北京协和医院使用了云知声医疗语音录入解决方案
AIOS 在车载方向的应用
正如前文所说,造芯不是目的,而是手段,真正的目标是如何让产品更好落地到实际应用中。这也是黄伟提出“应用场景定义 AI 芯片”的原因。
在发布会上,黄伟表示,当许多人在为人工智能企业呐喊时,他们所不知道的是这些公司正在走进一片沙漠,在那里,他们又累又喝,努力寻找一个个美好的绿洲,而资本此时在一旁给他们递上水和粮食,支撑他们继续前进。
这个比喻所表达的,正是 AI 虽然火,为所有人所期待,但落地方面却是一个难题。资本当然不是为了支持企业在沙漠中行走,资本押注的是企业能找到绿洲,而绿洲就是巨大的潜在应用场景,需要厂商去挖掘。
2018 年,IoT 成为科技领域的新热点,阿里宣布其为公司第五大赛道,而 IoT 的背后正是人工智能驱动。但人工智能一直以来更多是在云端落地,要落到终端上,边缘算力、连接、和数据处理等需求,以及终端对功耗、性能的需求,都要求有一款专门芯片。
这就是为什么押注 IoT 的公司也在芯片方面布局,云知声在这块可谓走在前列。
相关文章:
首发 | 云知声获 C 轮融资 1 亿美金,即将推出 AI 芯片
云知声发布“Pandora”语音中控方案,产品智能化只需6个月