展望人工智能芯片的未来发展趋势

　　目前的AI芯片市场，几乎全都在谈论深度学习。深度学习（DL）是机器学习之中，能让AI应用在现实世界中实现价值的最佳范例，而这其中又以加速（accelerating）深度学习最受关注，因为加速是训练与推理过程所必需的。

　　AI芯片市场的参与者目前呈爆炸式增长：在最近的一份研究报告中，我们统计出全球约80家初创公司坐拥投资者的105亿美元，与大约34家成熟的参与者竞争。显然，这种状况是不会长久的，但我们需要对市场进行剖析，以更好地理解为什么会形成目前这种状况、它会如何变化，以及这一切意味着什么。

　　将时光倒流至2010年左右，当时英伟达（Nvidia）在其图形处理单元上推出了高端通用计算（GPGPU，现在简称为GPU）。它引发了深度学习的兴起，将大型神经网络的训练时间从几个月或几周减少到几天几小时，甚至更少。英伟达自此成功转型为AI计算公司，并开发出了数十亿美元的新业务。

　　这也刺激了其他芯片公司和芯片架构师开始思考——如何从一张白纸开始，构建一个专门用于运行AI工作负载的架构，还要比针对多种工作负载设计的GPU更好？

　　如今，AI工作负载仅仅意味着运行深度学习，这是目前的市场需求所在。

　　但市场需求是多变的。尽管大多数AI训练都在数据中心（包括超大规模云端）和工作站上进行，但AI推理却随处可见：在云端、在工作站、在边缘……尤其是边缘端。

　　人工智能芯片市场如何细分

　　无论一个初创企业决定加入哪个细分市场，竞争都将非常激烈。我发现将这个市场映射为一个三角形非常有用。三角形的每个顶点都有自己的一组标准来代表独特的市场需求。

　　三角形的顶点是数据中心、云端和HPC环境对AI芯片的需求。Cerebras公司很好地抓住了这一市场，它制造了世界上最大的芯片，晶圆级引擎（Wafer Scale Engine，WSE）。这个细分市场需要最高的计算能力，而功耗和成本则是次要的。初创企业面临的挑战是他们要与超大规模企业和老牌企业竞争，比如英伟达就在稳步发布其不断改进的架构，其最新版本（Ampere）已于2020年5月发布。

　　三角形的下端主要涉及推理，企业可以在保持准确性的同时，构建较低精度的芯片。其对产品的需求和三角形顶点有所不同，主要包括芯片大小、低延迟、低功耗和低单位成本。特别是小边缘市场，这是所有初创企业最活跃的市场，像英伟达这样的大牌公司不太会参与这个市场的竞争，英伟达也曾表示它不打算涉足大宗商品推理市场。但是，处于这个角落的玩家不仅要与竞争对手竞争，而且还要与潜在客户斗智斗勇，因为客户可能会决定自己创建一家公司或购买一家初创公司。

　　人工智能芯片的下一步发展

　　AI芯片领域中有太多的竞争者，看看图1中三角形的每个顶点就知道，最好的全方位设计才会胜出。除了我们已提到的各种因素，还需要添加成熟的软件开发堆栈、针对市场的愿景以及将深度学习应用嵌入产品中的更大潜力，这样才能使市场合理化。

　　不过，这个市场中已经有牺牲者了，最近的是Wave Computing于2020年4月宣布破产。

　　竞争导致市场上出现更快、更高性能的AI芯片，AI研究人员将从中受益来实现他们奇思妙想。我也更期待出现新的算法取代深度学习当前的霸主地位——AI研究的长期愿景是创建像人类一样的人造大脑，很显然深度学习是死胡同。新算法不可避免地会出现（有些已经出现，但不是本文涵盖的内容），而这些下一代算法可能需要不同类型的加速器。

　　深度学习在实际案例中的应用广度，使这些芯片拥有数十亿美元的市场，随着5G的推出，还将不断增长。这个市场需要AI硬件加速器。AI芯片市场将趋于合理化，然后整个游戏将随着下一代AI算法的崛起而发生改变，不过，没人清楚这个改变什么时候会发生。