“2017年我们的方向就定了,数据中心会是FPGA最主要的发展方向。之后赛灵思也验证了我们的想法,未来十几年,它最强力的增长方向就在数据中心。”深维科技创始人&CEO樊平说道。
作为FPGA软硬件产品开发商,深维专注于图像视频处理、大数据处理和高性能计算领域的计算服务,提供从“端”到“云”解决方案。
从图片转码,到视频处理、AI加速及高性能计算,随AI浪潮登上历史舞台的FPGA在数据中心,在图片处理、新零售、视频处理领域,正扮演着越来越重要的角色。
数据中心为何会选中了FPGA呢?
由于移动互联网不断演进,大数据、物联网、云计算、AI应用的飞速发展,数据中心面临正在井喷的数据流量和更加复杂、沉重的计算压力。
随着通用处理器CPU的摩尔定律已入暮年,从美国的微软、亚马逊到中国的BAT、华为,几乎所有的科技巨头们都在寻找新的专用芯片方案。
而AI的浪潮,先是把GPU、而后又将FPGA带入了历史的视野。
传统计算机中无论是CPU,还是作为协处理器的GPU,都属于冯•诺依曼结构,即指令译码执行、共享内存,因而能耗高、实时性差。这对硬件算力的性能存在着极大的挑战。
相比之下,ASIC和FPGA则在能效上略胜一筹。ASIC作为专用芯片,功耗低、计算性能和效率高,但其灵活性差,算法调整难度高。
反观FPGA,正是一种硬件可重构的体系结构,常年来被用作ASIC专用芯片的小批量替代品,然而近年来在微软、百度等公司的数据中心大规模部署,以同时提供强大的计算能力和足够的灵活性。这也使其正成为AI方兴未艾时刻的最佳选择。
这也使得国内不少厂商加入了FPGA的生态。深维科技就是这个生态圈中的一员。
随着大数据、物联网、移动互联、云计算等的蓬勃发展,图片内容也在持续增长,而缩略图、像素处理、图片分析等过程都会占用大量的服务器资源,FPGA加速解决方案则逐渐成为图像处理领域的趋势。
于是在应用上,深维首先选择了图片处理领域。
基于FPGA的异构计算加速平台。深维切入了电商、社交、手机云相册、新闻资讯等具体场景。
如社交平台、云相册等,包括摄像头,每天有大量的图片进行收发、传播。而上传和浏览图片的终端也不同,可能是PC,也有可能是手机端。
因而,我们所看到每个图片,实际上都要上传到数据中心,经过处理,将图片重新进行编码,缩放到一个适合的屏幕尺寸和格式。
这就对网络带宽、经济性,以及速度有很多考量。数据量大,处理服务器规模就很大,那么性能和成本就是很重要的因素。
“客户也希望图片处理的成本是比较低的,采用我们的方案,后端服务器会明显减少,成本大幅降低,还可以省电、省场地。另一方面,我们把图片用更小格式的方式保存后,其本身的清晰度不变,占用的空间变少了。传输同样图片的带宽成本、流量成本,也降低了。所以,像CDN(内容分发网络)厂商、云存储的视频网站,都是我们的客户。”樊平说道。
据了解,数据中心原本主要用的就是英特尔CPU。而采用深维的方案,总体成本能降低到原有方案的五分之一。
需要说明的是,深维做的并不是直接制造FPGA芯片。虽然身处近年来的AI造芯浪潮中,又出身国内最早做FPGA芯片的公司京微雅格,但樊平认为,FPGA的“软”与“硬”同样重要,这与去年被赛灵思收购的深鉴科技早期的布局也是类似的。
“我们不做芯片本身。我们做的是芯片的应用,基于FPGA芯片写程序、进行二次开发。并打造自己的图片处理引擎和平台,相当于我们给芯片注入了灵魂。”樊平说道。
提到FPGA,通常会想到的是一款可编程的硬件产品。
但对于用户而言,FPGA目前在应用上,很依赖编译系统和系统工具这些软件。
一是FPGA的硬件编程模式,还需要将FPGA变为适于处理应用的硬件产品;
二是还需要开发相应的应用软件开发环境,需要打造软件工程师熟悉的设计环境,让硬件为更广泛的软件及系统级工程师所用。
为解决这个问题,深维基于C/C++语言进行了开发,可支持更大规模算法,提升芯片架构的灵活性,让改动周期缩短;另外,深维自研面向AI应用的FPGA设计工具、调试工具、标准化专用系统设计工具等。
在整体的平台上,深维还提供芯片平台、EDA平台、IP平台,以及云端和终端的解决方案。除芯片采用赛灵思等的之外,从EDA、IP,到解决方案,都是深维一手打造。
樊平介绍道,“以EDA(电子设计自动化)为例,它是FPGA设计的必要工具,类似于编译器和CPU的关系。该层面的设计是深维的一个独特优势。”
另外,深维对客户的定制化需求支持非常快。普通行业可能几年才能成熟的产品,而深维几个月就可以完成。就图片处理加速器这一产品而言,其从2017年开始研发,目前已经有四五家大客户在使用。
凭借完整的平台,深维科技也成为了FPGA全球第一大供应商Xilinx在数据中心的ISV合作伙伴。
不仅在图像处理领域,在视频处理、大数据处理、高性能计算等领域,FPGA未来可发挥的空间更大。这也是深维下一阶段的发展方向。
近两年来,不少企业也跨界智慧城市领域,其中城市级平台的打造,支撑芯片的软硬开发能力,及云端的处理能力就尤为重要。
目前FPGA正在由通用芯片转向专用芯片的过程中,担当着一个重要的角色。
“前景很好,不过初创企业一定要找到一个很长的价值点。拿FPGA举例,面对互联网,人工智能的发展带来的海量,复杂结构的数据,FPGA原生的并行处理能力,可以极大的提高这些数据处理的速度和效率,这个价值点能有效说服客户买单。此外,可靠的产品质量和优良的服务,也是影响客户最终买单的因素。”樊平说道。
摩尔定律进入衰老期,应该说给FPGA在数据中心的应用带来了更多的机会。
但樊平并不想形容这是“风口”,而是实际的市场需求。
“我们不用‘风口’的说法,我们既没有特别享受这个风口,也不会因为这个风口过去就不再关注实际的市场和产品性能了。”
“这是市场的自然成长,并不是一个资本的行为。Gartener有一个成熟度曲线,FPGA是典型是被认为没有前景了,但又经历了第二次爬坡。现在它正处于一相对稳定的持续增长期。”
那么3到5年之后,市场能够大概成熟到什么程度?
“整个云端加速市场是大概五年后,会达到200到300亿美元,一个千亿人民币以上的市场。其中FPGA占到多少还不能确定。但我们是很看好的,包括英特尔和赛灵思的投入,都是有保障的。”
但衡量FPGA未来前景要面对的一个问题就是,在目前强势的通用GPU和未来可能成为主流的专用AISC方案之间,FPGA在算力和功耗上,算是“算法未定型前”的折衷选择。
而未来,专用性更高,功耗更低,相对开发周期快的ASIC更可能成为AI的主流。
对这一观点,樊平的看法显然充满了创业精神。
“就实际而言,在云端上,目前FPGA的应用的确比ASIC更为成熟。几乎所有的主要的云平台厂商,都已经接受了FPGA方案,包括BAT、华为等。而TPU这种ASIC方案的主要厂商还是谷歌。”
“另外,什么东西会定型?这本身就是个问题。世界的变化永远是越来越快,而不是定型。我们的应用不会定型,这些丰富的场景、变化的实现方法,以及非常快的技术迭代。它一直在变,变是更永恒的,而不是不变。”
“当大家希望一个问题变成确定性的时候,我们可以想象,这会是那些垄断性公司的生意,而不是一个创业者的。”樊平如是说道。雷锋网雷锋网雷锋网