亚马逊作为第一家云服务提供商投资于芯片
正是这种变化给了他们一个重大的发现，那就是，尽管英特尔和AMD的服务器CPU虚拟化越来越成熟，但是，KVM能与ASIC紧密结合可以发挥更大的优势。2018年，第一代AWSGraviton面世，作为亚马逊的自研ARM服务器CPU在方案中，基于处理器的实例的使用成本低于基于基于x86的方案，在收获众多用户的同时，也扩大了ARM云开发生态。
作为市场上最赚钱的市场之一，云服务已经成为许多互联网巨头的主要业务。在云服务供应商中，亚马逊自然稳居榜首AWS。作为一个公共云平台，占据了全球市场的近三分之一，仅次于阿里云在中国市场，亚马逊的云业务已经成为其最赚钱的业务即使当其零售业务开始亏损时，它仍然独自支持亚马逊的利润率。
亚马逊的AWS业务之所以能取得这样的成功，也离不开硬件。由于英特尔使用的硬件，云服务市场的竞争非常简单，AMD这些制造商的服务器产品线差距很小。他们只能依靠软件架构，如虚拟化技术和更高的性价比来吸引客户。然而，为了进一步降低成本，云服务制造商也开始开发自己的ADS1253E芯片，如亚马逊、谷歌和阿里巴巴。
一次成功收购
虚拟化对于云服务的基石实例非常重要。亚马逊以前用过的所有东西Xen后来发现了这种开源虚拟化技术Xen在硬件虚拟化的一些限制之后，亚马逊开始转向另一种开源虚拟化技术KVM。
但正是这种变化给了他们一个重大的发现，那就是，尽管英特尔和AMD的服务器CPU虚拟化越来越成熟，但是，KVM能与ASIC紧密结合可以发挥更大的优势。因此，他们决定发展自己的芯片设计业务。
2015年，亚马逊以未公开的金额收购了一家来自以色列的初创芯片公司Annapurna Labs，而这时的Annapurna Labs甚至没有公开的产品，但亚马逊显然看中了他们在服务器芯片上的开发实力。果然，从2015年开始，它就有了Annapurna Labs标志的ASIC芯片开始出现Project Nitro只有大部分ASIC芯片仅用作网络/存储卸载卡。在上面，每个实例的硬件主体大部分是英特尔的x86 CPU。
2018年，第一代AWS Graviton面世，作为亚马逊的自研ARM服务器CPU在方案中，基于处理器的实例的使用成本低于基于基于x86的方案，在收获众多用户的同时，也扩大了ARM云开发生态。之后，第二代和第三代被公布AWS Graviton，为通用工作的复杂性提供了更高的性价比。
与亚马逊有如此快的迭代速度的原因IP与设计路线相关的导向。AWSGraviton2和Graviton例如，两者分别使用ARMNeoverseN1和NeoverseV1的方案不需要亚马逊像AmpereComputing像这样的服务器芯片制造商，他们开始考虑自我开发ARMIP。
AI/ML新一波热潮
提供通用计算托管平台的亚马逊从未停止过。他们看中了一个新的市场，那就是他们看中了一个新的市场，那就是AI/ML。作为“新电力”人工智能正在给各个行业带来新的活力，但所需的计算能力也成为转型过程中最大的问题。起初，我们希望使用它CPU来解决AI但是，面对全新的计算方法，CPU很快就显得心有余而力不足。
但要去做GPU需要很多技术积累，市场上只有英伟达GPU在AI/ML名字打在上面，所以亚马逊和很多AI和芯片初创公司一样，还是打算从ASIC出发，推出Inferentia和Trainium这两个推理和训练芯片。
不过Inferentia和Trainium与Graviton定位是一样的，亚马逊不指望在性能上打败太阳的巅峰GPU，相反，我们希望提供一个成本更低、延迟更低、支持更多算法的解决方案，并继续充分发挥云服务在即时支付高性价比商业模式中的优势。
与此同时，亚马逊作为全球城市中排名第一的云服务制造商，无法通过自己的硬件实现这一地位，因此是英伟达GPU还是英特尔Habana Labs的AI加速器，亚马逊也有合作部署。
即便Inferentia和Trainium它带来了一定的成本和功耗优势，但如果你想打破现在，GPU主导的AI/ML英伟达的生态也面临着许多挑战CUDA已经建立了一个相当大的开发社区，以便开发者能够迁移到ASIC在硬件方面，还需要完成大量的移植工作。这就是为什么亚马逊的AnnapurnaLabs目前部门开设的100多个岗位中，硬件开发的岗位只有10多个，剩下的大部分都是软件开发岗位，大部分都是软件开发岗位AI芯片初创公司也面临着这样的困境，并非独一无二。
结语
服务器的大部分CPU，AI/ML在加速器初创公司看来，直接向大型数据中心和互联网公司销售硬件并不是唯一的销售方式。像亚马逊、谷歌和阿里巴巴这样的大腿不仅可以盈利，还可以提高其产品的知名度。
这也是为何AmpereComputing的Altra处理器开始出现Azure，在谷歌云和阿里云等平台上，云服务平台自主研发的芯片归根结底是为了提供更具成本效益的解决方案，但其客户仍在飙升。仅仅靠闭门造车肯定无法扩大市场份额。只有拥抱更大的硬件生态，我们才能实现双赢。
