在人工智能领域,全球范围内都掀起了AI芯片热。
安防行业也涌现了一批企业,如寒武纪、地平线、比特大陆、云天励飞等初创AI芯片企业,都相继推出了各自适应于安防场景的智能芯片产品。
上篇盘点中说道,如寒武纪、地平线、以及深鉴等大多以终端AI芯片切入安防。
而还有少数公司瞄准了安防芯片的另一端。如比特大陆等以云服务器切入AI芯片市场,国外AI芯片公司也在竞相角逐较为成熟的云服务器领域。
与终端AI 芯片相比,云端 AI 芯片通常具有更高的计算能力,更高的功耗,更大的物理占用面积,因此也相对更加昂贵。
目前为止,云端AI 市场一直由Nvidia的 GPU 和Intel的 CPU 主导,而现在它们正面临着寒武纪、Graphcore、Habana Labs 等公司的挑战。
比特大陆成立于2013年10月,是全球第一大比特币矿机公司。
在研发矿机芯片的同时,比特大陆也早在2015年就开始了AI业务的布局。近两年来,比特大陆也开始越来越从比特币圈霸主到AI芯片新锐转型。
业务产品
在AI 芯片上,比特大陆于 2017 年推出了云端 AI 芯片 BM1680,支持训练和推断。作为比特大陆的第一款张量加速计算专用芯片,BM1680芯片能够提供2TFlops单精度加速计算能力,芯片由64 NPU构成,特殊设计的NPU调度引擎可以提供强大的数据吞吐能力,并将数据输入到神经元核心。该款芯片对标谷歌的TPU。
这一系列产品目标用户定位为急需人工智能图像处理能力的互联网巨头、科技公司。
2018年,比特大陆接连推出了第二代张量计算处理器芯片BM1682和边缘计算芯片BM1880。一同发布的还有基于这两款芯片的各类开发和智能计算产品,包括算丰智能服务器 SA3、嵌入式 AI迷你机 SE3和 3D人脸识别智能终端,以及各类开发板、AI模块、算力棒等产品。
融资历史
2017年9月,获红杉资本、IDG资本等5000万美元A轮融资,公司称估值达“数亿美元”。
2018年7月,完成红杉资本领投的3-4亿美元的B轮融资,估值为120亿美元。
2018年8月,比特大陆正式完成Pre-IPO轮签约,获10亿美元融资。
创立于2016 年 3 月,寒武纪是中科院孵化的高科技企业。
独特的优势条件,也使寒武纪成为全球AI芯片领域第一个独角兽初创公司。
业务产品
云端产品上,寒武纪2018年5月发布了MLU100智能芯片(Cambricon-MLU100),适用于视觉、语音、自然语言处理等多种类型的云端人工智能应用场景,其本身可以高效完成多任务、多模态、低延时、高通量的复杂智能处理任务,还可以与寒武纪1A/1H/1M系列终端处理器适配,以端云协作的方式提供智能应用。
依图科技成立于2012年,创始人朱珑和林晨曦。
2019年,依图发布自研芯片「求索」,也让其成为 AI 四小龙(商汤、旷视、云从、依图)中第一个推出自研 AI 芯片的公司。
业务产品
2019 年 5 月,依图发布其自研的云端视觉推理AI芯片questcore TM,以及基于该芯片构建的软硬件一体化系列产品和行业解决方案。questcoreTM的推出对依图以及整个国内的AI行业,都将是一个新开始。
据介绍,基于questcoreTM打造的依图原子服务器,一台服务器提供的算力与8张Nvidia P4卡服务器相当,而体积仅为后者的一半,功耗不到20%。在进行视频解析时,1台依图原子服务器(搭载4核questcoreTM芯片,除此之外无需其他配置),与8卡Nvidia T4服务器(含双核Intel x86 CPU)对比,单路视频解析功耗仅为后者的20%,与8卡Nvidia P4服务器(同样含双核Intel x86 CPU)相比,功耗约为后者的10%。
而在依图造芯的背后,还有另一家AI芯片初创公司ThinkForce。去年12月,依图正式对外宣布战略投资ThinkForce。正如公开资料显示的那样,依图是ThinkForce的股东,也是合作伙伴。
融资历史
2018年3月,依图完成最新一轮融资,红杉、高瓴、高榕等前几轮投资方均有跟投,公司整体估值已经突破150亿元。
依图还曾于2013年8月获得真格基金天使轮投资,2015年1月完成高榕资本A轮投资,2016年6月完成云锋基金领投的B轮投资,2017年5月完成来自云锋、红杉等机构的3.8亿元C轮融资。
Nervana创立于2014年,位于圣地亚哥,2016年被Intel收购。
业务产品
2019年8月20日,正值Hot Chips期间,Intel公布了两款AI芯片,它们分别是Nervana NNP-T和Nervana NNP-I,分别用于训练和推理。
Nervana NNP-T,代号为Spring Crest,是一款从头打造的神经网络处理器,主要用于深度学习训练。它采用了台积电的16nm FF+制程工艺,拥有270亿个晶体管,硅片面积680平方毫米,能够支持TensorFlow、PaddlePaddle、PYTORCH训练框架,也支持C++深度学习软件库和编译器nGraph。
Intel方面表示,NNP-T在构建时充分考虑到灵活性,并在计算、通信和内存之间取得平衡;它具备可编程性,可以进行定制以便加速各种负载,无论是现有负载还是新兴负载。
Nervana NNP-I,代号为Spring Hill,是一款专门用于大型数据中心的推理芯片。这款芯片是基于10nm技术和Ice Lake内核打造的,打造地点是以色列的Haifa,Intel号称它能够利用最小的能量来处理高负载的工作,它在ResNet50的效率可达4.8TOPs/W,功率范围在10W到50W之间。
针对这款推理芯片,Intel同样强调了它的灵活性,并表示Nervana NNP-I能够在不影响性能或者功耗效率的前提下实现高度可编程。另外,Intel方面还透露,Facebook已经开始使用这款产品了。
融资历史
2016年8月,Intel宣布收购Nervana。
据悉,Nervana团队总共48人,交易一旦完成,团队所有成员将并入Intel的数据中心组。据悉,Nervana至今融资总额将近2500万美元,投资机构包括DFJ、Data Collective、Fuel Capital、Lux Capital和Allen&Co,公司早期提供以硬件为中心的AI解决方案,这些方案能有效的训练神经网络技术。
A轮的投资机构Data Collective(数据集合)管理合伙人Matt Ocko认为公司有很好的潜力。他补充:Intel不仅仅是买一个系统,而是希望产品能够更快和更高效,以对Nvidia有很好的抗衡。
Habana Labs是一家以色列创业公司,成立于2016年,在波兰有一个研发中心。
业务产品
Habana Labs最初的业务是开发专为深度神经网络训练和生产环境中的推理部署而优化的处理器平台。2018年,Habana Labs发布了第一款产品,即AI推理处理器「Goya」;9个月后,Habana Labs又宣布推出AI训练处理器「Gaudi」,不断完善自己的产品版图。
据了解,AI云端推理处理器Goya是一款基于PCle的双槽位处理器,可基于ResNet-50推理基准实现每秒15,000张图片的吞吐量,延迟时间仅为1.3毫秒, 功耗仅为100瓦。它主要用于传统服务器环境,提供推理和预测支持。
而最新发布的人工智能云端训练处理器Gaudi,将于2019年下半年面向特定客户提供样品。Gaudi是一款完全可编程且可定制的处理器,搭载基于第二代Tensor处理核 (TPC) 并集成开发工具、库和编译器。基于ResNet-50,Gaudi可以提供每秒1650张的图片处理能力——这是在业界单一处理器中最高的计算能力。同时,Gaudi的创新架构可以实现训练系统性能的近线性扩展,即使是在较小Batch Size的情况下,也能保持高计算力。这意味着,基于Gaudi处理器的训练性能可以实现从单一设备扩展至由数百个处理器搭建的大型系统的线性扩展。
融资历史
在2018年12月,Habana Labs的最新一轮融资由Intel风险投资领投,WRV Capital,Bessemer Venture Partners和Battery Ventures跟投,该公司的融资也由此前的4500万美元增加了7500万美元。自创立以来,该公司已经筹集到1.2亿美元。
Wave Computing成立于2010年,位于美国加利福尼亚坎贝尔。
业务产品
Wave Computing在2018取得了不少进展,推出其第一个DataFlow处理单元,收购MIPS,创建MIPS Open,并将首批系统交付给少数客户。
其AI芯片DPU(Dataflow Processing Unit),基于数据流驱动dataflow技术,采用非冯诺依曼架构的软件可动态重构处理器CGRA(Coarse grain reconfigurable array/accelerator)技术,在最合理分配和使用算力的同时,成倍节约了数据存储和传输带宽。这一方案基本上能将芯片算力资源的利用效率保证在75%-80%以上。
值得注意的是,Wave不是插入到服务器的加速器,它是用于图形计算的独立处理器。这种方法有利有弊。从积极的方面看,Wave不会受到GPU等加速器面临的内存瓶颈影响。从消极方面来说,安装Wave设备将是新的升级,需要完全替换传统的X86服务器,也让其成为所有服务器制造商的竞争对手。
另外,Wave Computing 过去主打服务器等高效能 AI 加速设备,直接对手是Nvidia,但Nvidia市场地位高不可攀,Wave Computing 即使有较好的理论性能仍难与之抗衡。
因而,2018年,Wave Computing收购了MIPS,之后其目标市场将可扩大到终端 AI 市场,与Intel、Arm 以及包含寒武纪等其他希望在终端 AI 能有发挥空间的技术与方案供应商会有相当高的重叠性,并将这些既有玩家产生一定的威胁。
融资历史
2018年6月,收购老牌芯片IP公司MIPS。
2018年12月宣布完成8600万美元E轮融资,至此,Wave总计融资金额已超过2亿美元。
Graphcore 成立于 2016 年,其总部位于英国布里斯托,两位联合创始人 CEO Nigel Toon、CTO Simons Knowles。
业务产品
Graphcore正试图创造一类新的芯片,以便更好地处理开发AI电脑所需要的海量数据。
该公司认为,Intel和Nvidia等公司生产的现有芯片存在限制,会导致AI电脑推出的时间被推后。Graphcore已面向客户推出了第一批Colossus智能处理单元。
几乎运行神经网络模型的所有计算机系统,甚至包括Google 的特殊硬件,都使用 RAM 存储。从 RAM 中获取神经网络的权重需要耗费大量的计算资源,所以处理器可以帮忙解决。一旦每个系统都确保获得了权重,处理器就会不断计算。这是一项巨大的成本。
在Graphcore 的芯片上,权重存储在处理器中的高速缓存中,而不是存储在 RAM 中,也不需要移动,因此,事情就变得比较简单了。可能我们会得到一个系统,比如一万亿个权重。这更像是人脑的规模。
该公司声称,其IPU ( intelligence processing units)可以将机器智能培训的性能提高10倍到100倍。
融资历史
英国历来位于芯片行业的中心地带,但其大型企业纷纷被外国企业收购,如芯片设计商ARM 去年被软银收购,而另一家英国芯片设计公司 ImaginationTechnologies 则被有中资背景的私募基金 Canyon Bridge 收购。
自创立以来,Graphcore 也吸收了不少战略投资方。2018年12月,Graphcore 宣布完成新一轮 2 亿美元融资,宝马旗下风投公司 iVentures 和微软作为战略投资方加入,公司估值达到 17 亿美元。截至目前,Graphcore 的融资总额超过 3 亿美元。
此外,罗伯特博世风险投资公司、C4 风险投资公司、戴尔科技资本、Pitango(以色列最大风投)、三星和红杉资本等跟投。一年前,红杉资本参与了 Graphcore 的 C 轮融资,投资了 5000 万美元。
被认为是一家相当神秘的新企业,Groq 成立于 2016 年底,外界比较熟知的是它从Google AI专用处理器TPU(Tensor Processing Units)团队挖角大部分关键成员。
业务产品
Groq 是由 Google TPU 初始团队离职创建的 AI 芯片公司,其计划发布的第一代 AI芯片产品,对标Nvidia的 GPU。其算力可达 400 TOPs(INT 8),单位能耗效率表现抢眼。
官网资料显示,这款芯片的运算速度将可以达到400万亿次每秒,每瓦特能进行8万亿次的运算。而谷歌最新一代的TPU才达到每秒180万亿次运算,Groq芯片的性能将会是谷歌TPU的两倍多。
融资历史
2017 年 4 月初次进入公众视野:宣布获得 1030 万美元融资。作为芯片领域的创业公司,Groq 一经出现就获得了极大的关注。公司创始成员为谷歌TPU设计成员之一。在接受CNBC的采访时,有关人士曾透露,该公司拥有TPU原始团队的大部分成员。在沉寂了几个月后,Groq 还吸引到了赛灵思全球销售执行副总裁 Krishna Rangasayee 的加盟,担任 COO。雷锋网雷锋网雷锋网