AI加速器芯片市场是如何发展的？

今天的人工智能芯片组云市场分为三个部分。“这些系统将从基于标准的人工智能系统演变为基于深度学习的人工智能系统，这实际上增加了推理的工作量。正如报告所强调的，谷歌在TPU成功为其他云服务提供商服务(CSP)开发自己的AI加速器ASIC带来蓝图。

AI大肆宣传加速器芯片的机会，但是市场有多大，今天哪些企业真正在销售芯片？

ABIResearch今天的两份新报告详细解释了AI芯片组市场的发展。EETImes为了了解企业和技术正在进入这个潜在的利润丰厚的市场，采访了报告的作者、首席分析师苏连杰。

云中的人工智能

第一份汇报“云AI芯片组:市场格局和供应商定位”强调了云AI如何快速增长推理和培训服务。由此产生的人工智能芯片集团市场预计将从2019年的42亿美元增长到2024年的100亿美元。目前这个行业的管理者英伟达和英特尔正遭受寒武纪的折磨。Graphcore，HabanaLabs挑战高通等企业。

Su由于其健全的开发者生态系统和先发优势，英伟达在这个市场上仍然是一个重要的管理者。

“此外，随着人工智能模型、库和工具箱的不断变化和升级，英伟达是一个很好的储备选择，因为它有能力成为一个通用的人工智能芯片组，”苏说。“诚然，这些优势会随着市场的成熟而逐渐减弱，但至少在可预见的未来，英伟达仍将处于强势地位。”

今天的人工智能芯片组云市场分为三个部分。云服务提供商管理的公共云：AWS，微软、谷歌、阿里巴巴、百度、腾讯等。然后是公司的数据中心，它们实际上是私有云及其ABI所谓的“混合云”即融合公共云和私有云（VMware，Rackspace，NetApp，HPE，商品戴尔)。

报告还确定了一个额外的新兴领域——电信云，这意味着电信公司是其关键网络，IT和边缘计算工作负荷部署的云基础设施。

这一新的市场细分对于人工智能芯片集团制造商来说是一个巨大的机遇。

“我们已经看到了像华为这样的网络基础设施供应商，以及诺基亚在一个小水平上发布网络ASIC，”Su说。“这是一个巨大的市场，但是英伟达最近一直在努力进入这个市场。”

尽管Su短期内没有看到其他公司在替代品Nvidia云端AI训练水平占主导地位，但推理更像是一种自由竞争，不是单个玩家的核心。这部分是由于推理工作量的特点，这在垂直领域是不同的。他说，从2020年开始，ASIC预计将完成行业强劲增长。

目前，人工智能推理向边缘设备迁移的趋势将代表智能机器、无人驾驶汽车、ADC08038CIWM机器人和其他设备对云的依赖程度降低。然而，这并不意味着推理工作量（一些云服务提供商认为它超过了培训工作量）可能会减少，Su说。

“聊天机器人和对话人工智能、欺诈监管和网络安全系统、”他说。“这些系统将从基于标准的人工智能系统演变为基于深度学习的人工智能系统，这实际上增加了推理的工作量。[改进]将足以取代这些移动到边缘的推理工作量。”

还有谷歌。谷歌的TPU(张量控制部分)可以同时解决云中的训练和推理问题，被视为云中训练和推理CPU和GPU技术的有力挑战者(由英特尔和英伟达各自领导)。正如报告所强调的，谷歌在TPU成功为其他云服务提供商服务(CSP)开发自己的AI加速器ASIC带来蓝图。AWS而百度早就这样做了。

假设云服务提供商正在开发自己的芯片组，这是否会为该行业的任何其他芯片供应商留下市场？

“随着CSP开始在自己的芯片组工作，这条路对于新来者来说非常有趣，你当然是对的，”Su说。“大家甚至预测，到2024年，15%到18%的市场将属于CSP。私人数据中心行业有很多机会。银行机构、医疗机构、研发实验室和学术界仍将需要运营AI，他们会考虑是对的AI提高工作负荷的芯片组Cerebras，Graphcore，HabanaLabs和WaveCompuTIng等待新来者带来一些优势。”

从这些趋势中受益的其他参与者是IP例如，核心许可供应商ARM，Cadence他们将承担比以前更多的芯片开发公司的芯片组设计，Su说。

人工智能的边缘

ABI第二份报告《EdgeAIChipsets:TechnologyOutlookandUseCases》表示2018年边缘AI推理芯片集团的市场规模为19亿美元。报告还确定了一个边缘训练市场，令人惊讶的是，该市场在同一年的价值为140万美元。

今么应用程序正在边缘训练？Su解释说，这个数字包括网关(历史学家或设备集线器)和本地服务器(在私有云中，但它们位于生成的位置AI数据的位置)。芯片组是专门为在本地服务器上进行培训任务而设计的，包括包含在内的芯片组Nvidia的DGX，华为的网关及选择Ascend910芯片组服务器及其CerebrasSystem，Graphcore和HabanaLabs对于本地数据中心的系统级商品等。

“由于云仍然是人工智能培训的首选，这个(边缘培训)市场仍然很小，”苏说。

另外，2019年至2024年，边缘人工智能推理估计边缘人工智能复合增长率为31%。对于边缘推理，Su描述了三大市场(智能机器/可穿戴设备、车辆、智能家居/白色家电)及其三大利基市场.

第一个利基市场，机器人技术，通常需要一个异构的计算框架，因为机器人取决于多种类型的神经网络，例如用于导航的神经网络SLAM(同时定位和投影)，用于人机界面的对话AI以及用于目标检查的机器视觉等。它们在不同程度上被应用CPU，GPU和ASIC。他说，英伟达、英特尔和高通在这个行业竞争激烈。

“第二个利基是智能工业应用，包括制造、智能建筑及其石油和天然气领域，”他说。“我们看到FPGA供应商在这个行业发挥了出色的作用，不仅仅是因为传统的设备，FPGA结构，[带来]灵活性和适应性。”

最终，也有“十分边沿”超低功耗AI在局域网中放置传感器和其他小型终端节点的芯片组趋势。鉴于对超低功耗的关注，这个行业是由这个行业组成的FPGA公司，RISC-V设计和ASIC供应商占有。

到目前为止，谁实际上想成为边缘？AI推理设计？

“令人惊讶或不奇怪的是，由于智能手机的大量销售，智能手机AIASIC实际上供应商处于边缘AI在芯片组市场处于领先地位，”Su说。“这是指苹果、海思、高通、三星，在较小的水平上MTK。但是，如果我们严格讨论初创公司，我想Hailo，HorizonRoboTIcs和Rockchip似乎在智能终端制造商中获得了一些动力。”

Su它还表明，软件针对边缘AI芯片集团的商业实施和部署尤为重要，将Nvidia不断升级其编译器工具和创建开发者社区的努力与英特尔和赛灵思采用的方法相比较，英特尔和赛灵思与初创公司合作或收购基于软件的加速解决方案。

“芯片集团公司应考虑向开发人员社区提供工具箱和图书馆，以及他们的开发人员教育计划、竞争、论坛和会议，因为这些将吸引开发人员与芯片集团公司合作，并开发相关的应用程序。所有这些都不容易完成，”他说。

该报告得出结论，除了为开发人员社区提供适当的软件和应用程序外，该行业的成功公司还将提供良好的发展路线图，并获得技术价值链的其余部分。他们还需要在各种用例中扩大芯片的规模，同时保持有竞争力的价格点。