GPU不同形式的可扩展性问题

即使选择嵌入式结构，也有很多路线，比如GPU，FPGA和ASIC等等。SOSA来自美国空军的联盟主席IlyaLipkin这意味着，如果你想更快地运行，快速部署软件，你自然会选择GPU最好的。在边缘计算中，有一些FPGA和ASIC该方案在能耗比和可扩展性方面具有优势，如果嵌入式GPU不能达到更强的扩展性，很有可能被后来者颠覆。

在AI在大数据时代到来之后，GPU单兵作战变成了奢望。以目前的数据中心和超级计算为例，有成千上万的数据GPU，庞大的GPU在交换机和光学模块的支持下，网络代表了这个计算时代的最高计算能力。但不仅仅是数据中心和超级计算GPU需要这样的扩展，嵌入式GPU和专业GPU同样如此。

嵌入式物理限制GPU

随着多线激光雷达、高分辨率图像传感器等各种传感器的性能持续上升，我们对边缘计算单元，尤其是GPU需求也在增加。但是在实现的过程中，我们还有一些物理上的限制是无法消除的，比如大小、重量和功耗。

为了解决这一系列问题，美国政府和行业解决方案提供商成立了SOSA联盟，寻求开发和开放的标准和最佳解决方案，以实现具有成本效益和可操作性的ADS1213P传感器系统。如何在不增加有价值的物理资源的情况下克服这些负荷计算工作量增加带来的挑战？答案仍然是GPU，DPU等技术集成到嵌入式结构中。

这类嵌入式GPU不是单独出售，而是交给合作伙伴整合到不同的边缘计算系统，如研华、凌华、EIZO，Mercury Systems等等，然后交付给美国空军，洛克希德·军事、航空、工业客户，如马丁。

即使选择嵌入式结构，也有很多路线，比如GPU，FPGA和ASIC等等。SOSA来自美国空军的联盟主席Ilya Lipkin这意味着，如果你想更快地运行，快速部署软件，你自然会选择GPU最好的。但是他们也面临着空间的问题，因为嵌入式的GPU常常被塞到3U或者6U在服务器上，他们想要达到更小的体积，甚至是手掌大小，但这样一来，他们就不得不牺牲带宽、容量。

因此，虽然嵌入式GPU它们仍然可以在这些嵌入式传感系统中保持领先地位，但它们没有像数据中心那样严格的空间要求。MXM嵌入式GPU可以做到PCIeGPU五分之一的尺寸，但这是嵌入式的GPU它的可扩展性并不完美。在边缘计算中，有一些FPGA和ASIC该方案在能耗比和可扩展性方面具有优势，如果嵌入式GPU不能达到更强的扩展性，很有可能被后来者颠覆。

显卡交火时代的结束

不管是最新发布的RTX4090消费级显卡，或RTX像6000这样的专业显卡象征着英伟达的新结构GPU又一次创新。台积电4N在工艺的加持下，无论是晶体管的数量还是数量CUDA核心都做到了极致。

然而，交火技术最初已经成为英伟达的高端消费显卡和专业显卡NVLink，在RTX4090和RTX6000没有地方可以找到。英伟达完全放弃显卡交火技术难吗？NVLink？根据英伟达CEO他们省下了黄仁勋的说法NVLink连接器的空间释放了更多的空间来处理更多的空间AI计算。

上一代显卡NVLink通过连接两张英伟达图形卡，使用高端图形卡和专业图形卡的专业系统可以获得更高的带宽和双重图形存储容量。这种改进对个人或专业用户来说是一个巨大的改进，那么英伟达为什么要放弃呢？NVLink怎么样？作者也在英伟达GTC这个问题是在一次分享会上提出的。

英伟达方面就这样RTX 6000这类专业显卡，他们取消了NVLink节省了足够的空间，并填写了更多的计算单元，以提高单张卡的性能。同时，尽管这些专业的图形卡有NVLink取消支持并不意味着英伟达放弃了这项技术。英伟达决心放弃这项技术。NVLink数据中心产品品为例，Grace CPU、Hopper GPU，他们通过NVLink Die to Die和Chip to Chip互连可以实现更好的可扩展性。

但这确实象征着一个时代的结束，过去AMD英伟达的交火SLI这也是两家公司最具竞争力的技术之一，但是AMD英伟达放弃了交火支持SLI在换成NVLink现在也迎来了结束。

然而，显卡交火的结束是可以理解的，更不用说这种互联方式的受众越来越少。为了享受显卡交火的性能，还需要软件更新支持。也许专业显卡的目标是追求单卡性能。多卡互联网的支持应提供给数据中心。