通用芯片并不能很好地适应深度学习算法的要求,效率低,功耗大,成本高。各种神经网络算法需要专用芯片来保证其运行效率。人工智能的浪潮,催生了 AI 专用芯片的大爆发。
无论是云端的运算还是移动端的运算,都需要专门针对 AI 算法设计的芯片,但这二者对 AI 专用芯片的要求不同。云端要求 AI 芯片适应多种神经网络架构,同时能进行高精度浮点运算,峰值性能至少要达到Tflops(每秒执行10^12次浮点数运算)级别,对功耗没有严苛要求;支持阵列式结构以进一步提高性能。
移动端 AI 芯片对设计的要求截然不同。一个根本的要求是控制功耗,这就需要使用一些办法(如网络压缩)来提升计算能效,同时尽可能少地降低计算性能和计算精度的损失。
各个厂商纷纷在这两个方向上发力 AI 芯片的研发,当然云端和移动端也无法截然分开。比如寒武纪,此前研发的寒武纪深度学习处理器是面向大规模神经网络和多种机器学习算法的,而 2016 年推出的寒武纪1A处理器(Cambricon-1A)则是面向智能手机、安防监控、可穿戴设备、无人机和智能驾驶等各类终端设备的。
在云端,除了上文的英伟达,英特尔在收购 Altera 之后推出了基于FPGA的专用深度学习加速卡,更收购了 Nervana,瞄准为深度学习专门定做和优化的 ASIC 芯片;收购了 Movidius,其高性能视觉处理芯片将补足英特尔在移动端 AI 芯片的缺失。另外还有 IBM 的类脑芯片 TrueNorth。当然还有本文开头讲到的谷歌 TPU。日前,百度又正式推出了 XPU,它是基于百度 FPGA 的新一代 AI 处理架构,拥有GPU的通用性和FPGA的高效率和低能耗,对百度的深度学习平台PaddlePaddle做了高度的优化和加速。
在移动端,谷歌、苹果和三星等都在用专门的 AI 芯片构建手机。微软正在为增强现实耳机专门设计这样的芯片。同时从科技巨头谷歌到传统车厂丰田,所有人都在进行自动驾驶汽车的研发,正需要能够在移动端良好运行的 AI 芯片。
比如擅长底层架构改进的苹果,其最新发布的 Apple X 采用了定制的芯片来处理人工智能工作负载。这是一个双核的“A11 生物神经网络引擎”(A11 bionic neural engine)芯片,每秒运算次数最高可达6000亿次。该芯片赋能的最重要的事情就是使 Face ID 身份认证功能能够快速识别人脸,从而解锁 iPhone X 或进行购物。
此外,中国也有几家公司在进行 AI 芯片的研发。此前腾讯发布的 AI 产业报告指出,AI 芯片作为产业核心,也是技术要求和附加值最高的环节,产业价值和战略地位远远大于应用层创新。而在这一点上,中国和美国的差距还很大。报告显示,从基础层的芯片企业数量来看,中国拥有14家,美国33家,中国仅为美国的42%。
国内在 AI 芯片研发表现突出的企业,除上文介绍的寒武纪外,还有推出具备深度学习人工智能的嵌入式视频采集压缩编码系统级芯片“星光智能一号”的中星微电子,致力于软硬件一体化解决方案的地平线机器人,以及打造了“深度学习处理单元”(Deep Processing Unit,DPU)的深鉴科技。深鉴科技的目标是以 ASIC 级别的功耗,达到优于 GPU 的性能,目前第一批产品基于FPGA平台。