AI芯片新救星?FPGA真这么神吗_芯片_英特尔
导语:“AI芯片”这个新鲜的观点在过去一年间逐渐走过了遍及的阶段,越来越被大众所熟知。在行业走过野蛮成长,开始加速落地、加速整合的过程中,也有更多的AI芯片公司也开始走出属于自己的差异化路线。
智东西在此前AI芯片系列宣布第一季之后,再次出发,进一步对AI芯片百口当链高下近百间核心企业进行差异化的深度追踪宣布。此为智东西AI芯片家当系列宣布第二季之一。
随着大数据发展和算力的提升,AI芯片正迎来新一轮的爆发期。
近两年来,越来越多以FPGA切入AI芯片的玩家呈现出来,包括海内AI芯片创企深鉴科技、百度XPU、微软Project Brainwave、寻思考医疗影像专用AI芯片等等。
只管ASIC在性能功耗上每每有更好的表现,不过我们创造,在一片红海的AI芯片市场中,FPGA凭借自己独特的上风霸占了一席之地。乃至有媒体宣布称,FPGA是AI芯片的终极未来。
这一不雅观点是否准确我们暂且不论,但它的确在AI芯片领域引起了不少波澜,也不禁让我们想要问一句,“AI芯片新救星?FPGA真的这么神吗?”
FPGA届的肯德基跟麦当劳:赛灵思vs英特尔Altera
FPGA(Field-Programmable Gate Array)即现场可编程门阵列,其灵巧性介于CPU、GPU等通用途理器和专用集成电路ASIC之间,在硬件固定的条件下,许可利用者灵巧利用软件进行编程。它的开拓周期比ASIC短,不过相对付批量出货ASIC,单个FPGA的本钱会更高。
由于FPGA容错空间相对更大,以前FPGA常被用作ASIC芯片流片前的硬件验证方法。
目前,FPGA芯片的紧张四家生产厂家都在美国:Xilinx(赛灵思)、Altera(阿尔特拉)、Lattice(莱迪思)和Microsemi(美高森美)。它们一共占了98%以上的市场份额,个中,绝大多数市场被赛灵思和Altera瓜分,赛灵思约占58%,Altera约占39%。
近三年,FPGA行业完成了多项并购。2015年6月,英特尔宣告以167亿美元收购Altera(阿尔特拉)。2016年上半年,紫光在公开市场收购莱迪思6.07%的股权,同年11月莱迪思被Canyon Bridge以13亿美元收购,但此案一贯没有得到美国监管单位赞许。
这些并购案并未影响到FPGA在AI芯片市场的整体格局。险些二分天下的赛灵思和英特尔确立了相似的FPGA计策布局,均将重心放在了数据中央市场,并都致力于让FPGA编程更大略。
1、FPGA的创造者——赛灵思说到FPGA,绝对避不开的公司便是赛灵思,由于这项芯片技能便是赛灵思首创的。从2011年起,赛灵思提出全可编程(All Programmale)理念,将FPGA技能从传统的通讯、航空、国防等领域拓展到了AI和云打算领域的运用。
去年12月,智东西曾对赛灵思环球发卖和市场部亚太及日本地区高等总监周海天进行深度专访(对话赛灵思:33年迈牌芯片厂如何在AI浪潮里新兴业务年增46%),周海天见告智东西,16nm产品是赛灵思浩瀚产品线中最受AI运用厂商欢迎的产品,其尖端技能能将更多可编程运用逻辑元件集成在芯片上,知足AI对强大打算能力的需求。
作为FPGA行业长期的霸主,赛灵思拥有超过2万家下贱客户,个中亚马逊AWS、以及中国的BAT云做事巨子都是它的客户。
今年3月,赛灵思新CEO Victor Peng上任之后不久,就宣告了赛灵思在AI时期的三大计策布局:数据中央优先、加速八大主流市场发展、以及重磅推出全新一代AI芯片架构ACAP。
首款代号为“珠穆朗玛峰(Everest)”的ACAP AI芯片新品将采取台积电7nm工艺打造,今年内实现流片,2019年向客户交付发货。(首发!
赛灵思推颠覆性AI芯片 正面宣战英伟达英特尔)
而在终端AI方面,赛灵思则在今年收购了海内三大AI芯片独角兽之一的深鉴科技,主攻终端人工智能。深鉴科技是海内少数以FPGA切入AI芯片、并取得不错成果的代表性玩家之一。(突发!
AI芯片独角兽深鉴科技被美国赛灵思收购)
此外,赛灵思FPGA也长期深耕在车用领域,适用于处理越来越繁芜的前辈驾驶赞助系统(ADAS)和自动驾驶。
某AI芯片创业公司CEO透露,相较其他进入自动驾驶车市场的AI芯片公司,只有赛灵思有车规级的 FPGA,L1-L3层找不到比赛灵思性价比更高的平台, 因此赛灵思至少在5年内有较好的市场契机。
2、英特尔收购Altera另一个FPGA行业不得不提的大事便是英特尔收购Altera。为了增强其在AI芯片领域的竞争力,2015年,英特尔以167亿美元天价收购Altera,这也是迄今为止英特尔史上最大手笔的收购。英特尔随即设立研发FPGA芯片的可编码部门(PSG)。
FPGA是英特尔的AI芯片布局之一,但英特尔最主要的AI芯片项目还是难产多年的Nervana神经网络处理器项目。
英特尔采取左右开弓的FPGA计策:一方面打造CPU-FPGA稠浊器件,让FPGA与处理器协同事情;另一方面基于Arria FPGA或Stratix FPGA打造可编程加速卡(PAC/programmable acceleration card)。
基于FPGA技能,英特尔已经构建了一个完善的NFV生态,覆盖软硬件厂商、系统集成商、电信运营商、OTT厂商等干系企业。
此外,英特尔还为OME厂商供应一个面向包含FPGA的英特尔至强可扩展处理器的英特尔加速堆栈,进而为客户供应完全的软硬件一体的FPGA办理方案。
英特尔在7月收购芯片公司eASIC后将其并入PSG部门,并随后透露这一收购案紧张是为了知足办理客户痛点,知足FPGA客户真个降落本钱和能耗需求,并供应可降落16nm、10nm、7nm制程的FPGA产品本钱的规模化技能。
目前加速卡还是FPGA进入硬件领域的紧张形态之一,不过英特尔已经在进行其他方向、其他形态的探索,并在积极推进和其他数据中央OEM厂商在FPGA方面的互助。
FPGA AI芯片市场的紧张玩家
近两年来,FPGA在数据中央的运用日益广泛。目前,FPGA做事器已在环球七大超级云打算数据中央IBM、Facebook、微软Azure、AWS、百度云、阿里云、腾讯云得到支配。由于ASIC路线风险高,目前仅有谷歌批量支配TPU。
1、最会玩FPGA的微软AI:BrainWave项目微软Azure与FPGA的渊源可以追溯到八年前,当时的Bing(必应)搜索引擎无论是搜索结果还是相应速率都比不过谷歌搜索。为了知足Bing的需求,2010年底,一位微软研究员提出了能在FPGA上运行Bing机器学习算法的硬件设计得到了微软的认可。
如今,FPGA在加速数据处理方面的出色表现使它在微软Bing、Azure云打算做事和Office 365中均得到支配。
今年3月26日,微软Bing官方微博宣告通过英特尔Arria FPGA和Stratix FPGA芯片打造出Project Brainwave深度学习加速平台。该平台将DNN处理单元整合入FPGA,支持微软Cognitive Toolkit、谷歌Tensorflow等盛行深度学习框架的软件栈,能够实行Bing智能征采功能所需的大规模机器阅读理解任务。
在5月微软Build 2018大会上,微软AI芯片Brainwave开放了云端试用版,开拓者现在可以接入微软Azure云,试用由Project Brainwave芯片打算平台供应的AI做事。微软称其延迟比谷歌TPU低5倍,正面对标谷歌。Project Brainwave可以看作微软基于英特尔FPGA芯片打造的低延迟AI芯片。
总的来说,微软基于FPGA打造的AI芯片是目前业内最认可的FPGA方案之一。
2、百度XPU比较微软对英特尔FPGA的专一,百度对FPGA生产厂商的态度更为开放。从2011年起,百度已就开始将FPGA运用到搜索、图像、语音等多个核心业务,它的数据中央、云打算平台和自动驾驶项目都支配了大量的FPGA。
在去年加州Hot Chips大会上,百度发布和赛灵思互助完成的基于FPGA的256核云打算加速芯片XPU。基于FPGA加速器善于处理打算任务的特点,XPU兼具GPU的通用性和FPGA高效率、低能耗的特点,旨在处理多样化的打算任务,对百度深度学习平台PaddlePaddle优化和加速,并实现性能和效率的平衡。
不过,在今年的百度AI开拓者大会上,百度推出了首款云端ASIC AI芯片昆仑,听说便是源自百度的XPU技能。
此外,百度和英特尔已有超过十年的互助历史,近两年双方在AI领域的互助加强。
同样是在今年的百度AI开拓者大会上,英特尔人工智能奇迹部副总裁兼人工智能架构总经理Gadi Singer透露,百度正在开拓基于英特尔最新FPGA技能的异构打算平台,这项技能将灵巧加速百度云上的事情负载。
3、深鉴科技深鉴科技是海内一家年轻却履历亮眼的AI芯片公司,前年景立,去年年初估值超过10亿,今年7月18日被环球第一大FPGA厂商赛灵思收购,其科研成果也在国际AI顶级会议屡获大奖。
FPGA开拓难度大、周期长(一样平常须要3-6个月)的高门槛曾将许多公司拒之门外,深鉴从这一痛点嗅到商机。从2016年景立以来,深鉴科技一贯基于赛灵思FPGA技能平台开拓机器学习办理方案。经深鉴科技优化的神经网络剪枝技能运行在赛灵思FPGA器件上,可实现更优的性能和能效。
该公司提出深度学习处理单元DPU(Deep Learning Processing Unit)系列,为不愿直策应用FPGA的厂商供应了一个带接口的黑盒子。厂商只需把自己的模型演习好,将模型和数据从接口导入,就能直接得到须要的输出。深鉴卖力个中的压缩和编译,天生指令可在FPGA上运行。
▲DPU 系列:用于嵌入真个亚里士多德板(上)和用于大数据真个笛卡尔板(下)
不过在后期,深鉴科技也开始涉足ASIC AI芯片的设计与流片,曾经发布“听涛”、“不雅观海”两款AI芯片并宣告2018年流片,不过暂时没有看到干系产品信息。
4、腾讯云、华为云、阿里云近年来,赛灵思和英特尔在中国云做事市场可谓是动作频频,和华为云、阿里云、腾讯云等海内顶尖的云打算做事供应商分别展开互助。
去年年初,腾讯云发布海内首款高性能异构打算根本举动步伐——FPGA云做事器,随后推出基于赛灵思VU9P FPGA卡的FX3实例和基于Intel Stratix10 FPGA卡的FI3实例。
华为云也在今年年初联合赛灵思FPGA宣告在欧洲首次推出华为云FPGA加速云做事器(FACS)平台,该平台搭载了赛灵思高性能 Virtex UltraScale+ VU9P FPGA,为用户供应高性能的FPGA加速云做事。华为云还推出FPGA加速云做事器FP1 DPDK实例和推出了FP1 OpenCL实例。
今年5月,阿里云发布新一代FPGA打算实例F3,采取其自研高性能FPGA加速卡,搭载赛灵思16nm Virtex UltraScale+器件VU9P,供应16个VU9P实力规格,创始统一FPGA SHELL架构和FPGA虚拟化支持方案,使阿里云客户能加速机器学习、数据剖析、基因组学和***处理等多种事情负载。
5、其他玩家目前,海内能够生产FPGA的公司包括紫光国芯、智多晶和AgateLogic等。而海内寻思考人工智能、瑞为智能、深维科技、高云半导体、安路科技、京微雅格等公司,都曾宣告具有基于FPGA的AI芯片开拓能力。
紫光国芯是海内上市公司中唯一能够量产FPGA的厂商,其FPGA、ASIC和特种微处理器常年为军方稳定供货。该公司在2016年9月正式推出海内首款内嵌高速接口(serdes)的千万门级高性能FPGA芯片——Pango PGT180H。
寻思考人工智能公司在今年3月的GTIC 2018环球AI芯片创新峰会上发布环球首款基于FPGA医疗影像专用AI芯片——M-DPU,该芯片在100秒内可以分类90000个细胞,同时具备前辈医学影像算法加速核心和深度学习加速核心。
寻思考CEO杨志明见告智东西,FPGA的研发周期比ASIC快很多,适于算法还在不断演进聪慧医疗影像领域。寻思考的DPU不是通用DPU,而是面向特定运用领域的DPU,在AI领域的最大上风是DPU与特定领域算法的深度整合,形成面向特定场景的一站式整体办理方案。
瑞为智能是海内最早利用FPGA实现技能路径的AI芯片公司之一,该公司在2015年就做了基于FPGA的AI芯片,知足前端摄像机对高算力和低功耗的需求,并在2016年实现规模商用。其AI芯片能使摄像机的图像处理达到每秒25帧,从而提取清晰的人脸图像供云端识别剖析。
除了创企外,海内研究机构如北京大学、清华大学、中国科学院等在基于FPGA的AI芯片领域都有深入研究。比如,北京大学曾联合商汤科技提出一种基于 FPGA 的快速 Winograd 算法,可大幅降落算法繁芜度,改进 FPGA 上的 CNN 性能。
FPGA在AI芯片行业的发展趋势
目前FPGA在AI芯片行业呈现出几种不同的发展趋势,一个是在FPGA的根本上推出优化架构,一个是最大化程度挖掘FPGA的利用边陲,还有一个是将FPGA作为跳板,逐步转向专用定制芯片ASIC。
1、基于FPGA优化架构基于FPGA进行优化架构的发展路线以赛灵思为代表。面对价格贵、开拓难度大的问题,今年3月,赛灵思发布历时4年、投入超过10亿美元打造的新一代AI芯片架构ACAP,直接宣战英伟达、英特尔处理器,对此智东西曾做深入宣布(首发!
赛灵思推颠覆性AI芯片 正面宣战英伟达英特尔)。
微软则是长期最大化程度挖掘FPGA利用边界的范例玩家。从八年前起,微软就执着于将FPGA作为其核心AI打算平台。从利用装满FPGA的专用做事器集群,到用专用网络连接的FPGA加速卡集群,再到将共享数据中央网络的大规模FPGA云做事,微软一贯在考试测验FPGA支配的各种可能,探求将FPGA上风发挥的最优路径。
3、FPGA的终点是ASIC?目前,业内的主流不雅观点是:随着AI算法的进一步成熟固化,AI芯片终极会走向ASIC——也便是较为固定的芯片架构。
不过,赛灵思CEO Victor Peng持有不同不雅观点,他曾经智东西,AI算法迭代、运用创新的速率还将持续很长一段韶光,乃至会坚持10-20年之久,因此一款灵巧、可应变的打算平台将成为创新的重中之重。
而且,未来终极并不会是一款AI芯片架构统一天下的局势,我们越来越须要能够适应浩瀚AI运用、适应不断变革的AI算法的新型芯片架构涌现。
与此同时,英特尔可编程办理方案奇迹部亚太区市场拓展经理刘斌也认为,,FPGA在所有市场领域里都会霸占一定的市场份额,从原生市场环境而言,FPGA和ASIC都有一个竞争互助的共生环境。
“专用的ASIC实在还是非常有竞争力的,”刘斌表示,“不过FPGA是在所有的垂直市场都会有一定的份额,这种灵巧性和普适性是FPGA最紧张的代价。”
某AI芯片创业公司CEO见告智东西,至少在在深度学习算法稳定前,FPGA都有其生存空间。由于很多公司都创造,刚做完传统算法硬化,过了半年,内部算法团队又把算法换了。
寻思考CEO杨志明则认为,FPGA与ASIC领悟是AI打算的未来。纯挚的ASIC芯片无法完备替代FPGA,也不具备FPGA的灵巧性。就犹如ASIC到现在都无法在传统领域完备替代FPGA一样,在AI领域,FPGA与ASIC也会分而治之。聪慧工业机器人、聪慧通信、聪慧医疗、聪慧装备等领域都是除FPGA以外的其他AI芯片难以参与的运用领域。
结语:深度学习加持,FPGA前景可期
最近一年,AI芯片踏入红海,除了赛灵思、英特尔等传统芯片巨子外,国内外浩瀚AI芯片创企也纷纭加入沙场。FPGA的可编程性使软件和终端运用公司能够根据算法灵巧修正办理方案,这让它在AI芯片市场愈发有存在感。
当下AI仍处于早期阶段,AI算法正从演习环节走向推理环节,这个过程须要对演习后的模型进行压缩,在基本不丢失模型精度的情形下将模型压缩到原来的几十分之一。在这一阶段,AI是向着有利于FPGA发展的方向进行优化和升级的。
FPGA或许只是小众的芯片,但在AI市场上,它的普适性和灵巧性都使其有适宜发挥其上风的运用处景。在各种AI芯片之间没有拉开绝对差距之前,每一种技能路线都有其发挥更多代价的空间。
本文系作者个人观点,不代表本站立场,转载请注明出处!