一文带你看完边缘计算芯片格局

主页（http://www.kuwanit.com）：一文带你看完边缘计算芯片格局

　　人工智能芯片市场第一个得到关注的是云端服务器市场，Nvidia的GPU以其强劲的算力掌握了大部分市场。随着人工智能的铺开，边缘计算（edge computing）的概念也得到了越来越多的认可。

　　在终端SoC市场，事实上竞争已经白热化，华为、高通等公司都纷纷推出专属的SoC搭载 AI加速模组，而AI加速模组IP的提供商也有ARM，Cadence，CEVA等传统IP提供商以及寒武纪这样的初创公司。不少传统SoC芯片公司都纷纷在自家SoC中加入自研或授权的人工智能模块。对于人工智能终端SoC市场，我们的分析是该市场虽然最早得到关注但是很可能近几年还是被原来的SoC公司占领市场，因为目前终端人工智能市场尚未真正落地收获真金白银，因此SoC中加入人工智能还只是锦上添花之举。

　　边缘人工智能计算中其实还包含了多个层次，一种是终端设备（如手机）上的人工智能计算，这样的规划把人工智能计算直接放到终端设备上，可以实现最低的延迟。然而，由于终端设备的电池容量有限或者对于散热容忍度较低，因此在终端设备上做人工智能计算对于AI芯片的能效比提出了极高的要求，同时这样也并非唯一的边缘计算形态。

　　边缘计算的两种市场目前都已经在起飞。而相关AI芯片也得到了许多关注。标志性事件是华为的两次芯片发布会。去年秋天发布的麒麟970芯片附带NPU，可以说是人工智能部署在手机的一次重要尝试。今年秋天又发布了Ascend系列芯片，其中Ascend 310芯片也是针对边缘服务器市场并且华为已经开发了基于Ascend 310的边缘计算服务器准备部署在自动驾驶领域。因此我们可以预计在未来无论是相关应用还是相关芯片都将有更多公司大手笔投入，从而推动AI进一步发展。

　　目前在中国市场，最主要的市场还是安防等应用的智能摄像头，因此产品定位决定了主要是华为和比特大陆之间的竞争，那么比特大陆和华为之间的竞争格局会如何呢？

　　华为的Ascend 310定位中高端，其8W／8TFlops的性能下可覆盖智能摄像头市场，上可进击自动驾驶市场（华为已经与奥迪合作，发布了基于Ascend 310芯片的自动驾驶边缘服务器MDC600）。而比特大陆则是主打性价比路线，BM1682自带视频解码和后处理操作且集成了CPU，因此客户需要加速智能机器视觉相关应用时理论上只需要BM1682即可，无需再去购入额外的CPU，这也降低了成本。

　　边缘计算相对于云计算有几点优势，首先是延迟较小，在云端和终端通常有几十毫秒到几百毫秒不等的网络延迟，对于工业应用等对延迟有高要求的应用来说云端部署人工智能无法满足其对于延迟的需求；其次是数据隐私，有些应用不希望把数据传输到云端，一方面担心云端数据被云运营商看到，另一方面担心数据传输过程中被黑客劫持；最后是可靠性，如果把人工智能部署在云端那么一旦网络断了在终端的人工智能程序就无法工作了，这对于要求高可靠性的应用来说难以满足要求，但是如果把人工智能部署在边缘就没有这个问题。

　　边缘终端市场的芯片形态与竞争格局

　　边缘计算新兴市场

　　终端通用深度学习加速器芯片市场的应用则刚起步，之前Movidius推出的神经计算加速棒并未引起巨大反响。但是这并不代表这个市场不存在，而是还处于幼年期，需要培养，因此许多公司在这个市场布局主要一是培养开发者生态，另一方面也探索研究哪个市场最有潜力，预计在市场成熟之后再收缩战线，针对几个重要的应用推出相应的优化芯片，从而占领最合适的市场。因此，目前对于这个市场最合适的策略是推出开发板和插件式加速硬件（如USB加速棒）这样简单易用的产品，这样厂商和客户可以一起探索市场需求，决定最佳产品形态。 我们看到比特大陆就是在这个市场跟随Movidius推出了BM1880芯片，并配套推出了开发板、芯片模组以及USB加速棒等多种硬件形态供客户挑选，我们相信在近期将会看到通用型终端人工智能加速器的更多应用。

　　如之前的分析，我们预计在人工智能边缘计算会成为未来最重要的人工智能硬件市场之一。在边缘计算领域，边缘服务器芯片市场非常重要但是目前厂商不多，我们预期会有不少公司入局，包括从芯片领域提出超高性能的初创公司，以及海康威视这样的系统厂商开始自研芯片，而如华为、比特大陆等已经提前入场的公司也会继续加大投入。

　　未来发展预期

　　边缘服务器的芯片形态与竞争格局

　　我们认为边缘服务器市场尚属于新兴市场，加入战场的公司并不多，目前仅有Nvidia，华为，比特大陆等， 而且不同的公司可以主打不同的细分市场，因此市场竞争远未饱和。我们不妨来分析一下Nvidia，华为和比特大陆三家公司的竞争格局。Nvidia的产品是Xavier芯片，峰值算力30TOPS，功耗30W，主要针对的是自动驾驶市场，因此芯片上还集成了双目视觉、光流等，模组售价2499美元，显然是针对高端自动驾驶市场，而对于智能摄像头等对于部署成本有要求的场合并不合适。

　　最后，我们必须看到边缘计算等人工智能芯片应用目前最大的市场其实在中国。这是因为中国的人工智能落地情况远好于美国。在政府的支持下，旷视、商汤、依图等初创企业纷纷推出优秀的产品并在市场上站住了脚跟，这一方面加速了基于人工智能的应用成熟，另一方面也给人工智能芯片带来了市场，从而为人工智能的完整产业链的成熟带来了机会。我们可以肯定地说，人工智能芯片的未来还得要看中国！

　　边缘服务器市场通常对于通用性有一定需求，因此比较合适的方案是处理器加上通用型深度学习加速芯片，而深度学习加速芯片最常见的形式是以PCIe加速卡的形式插到主板上，并与主处理器协同工作。值得注意的是，由于边缘服务器对于人工智能算法精度有一定要求，因此往往使用的是类似半精度浮点数的运算方式，很多边缘终端芯片上常见的INT-4甚至INT-2等激进的低精度整数运算由于损失精度过多因此在边缘服务器不太适合。

图源：图虫创意

　　边缘服务器的市场现在来看将是人工智能最早落地的应用之一（甚至比手机里的人工智能还要早且成熟），因为目前中国的智能摄像头产品已经在安防、人脸识别等领域真正落地，而边缘服务器是很适合智能摄像头的产品形态，一方面在不少此类应用中对于可靠性有很强的需求，因此部署在边缘端的人工智能更适合；另一方面智能摄像头的计算可以集群化操作，因此一个边缘服务器处理多路智能摄像头的形式是非常经济的方式。除了智能摄像头之外，无人驾驶也是边缘服务器的一个例子，因为在无人车里面需要做传感器融合做大量计算，相当于在无人车上部署了一个边缘服务器。

　　华为基于Ascend 310的MDC600边缘计算服务器主攻自动驾驶市场

　　在终端边缘计算市场，SoC芯片（AI加速器IP）领域竞争已经非常激烈，未来恐怕会有一波洗牌的过程，最后只会剩下几家能在不同细分市场牢牢把握住客户的公司。在通用终端加速器芯片领域我们则可望看到更多应用出现，在未来几年内我们能看到的边缘终端加速器应用实际上将会很大程度上决定这个市场的具体规模。