物联网(IoT)庞大的边沿AI市场正在发布轻量化或高度可扩展的框架

一些制造商开始添加ADXL323KCPZ芯片AI加速单元，比如Silicon Labs的BG24和MG24两个SoC，就加入了AI/ML硬件加速器，为Cortex-M33卸载解决机器学习算法的工作。不仅仅是芯片制造商，AI框架开发人员也注意到了IoT庞大的边沿AI市场正在发布轻量化或高度可扩展的框架，例如TensorFlowLite，Caffe2等。

现在似乎所有的领域都在附近AI，物联网也是如此AIoT这个过程已经开放多年了。除了智能音频和服务机器人等产品外，似乎没有爆炸性产品。相反，手机具有巨大的应用生态，Killer App频率。但无论是原来的芯片厂，还是下游厂商仍在不遗余力地宣传AI功能，这让人摸不着头脑，物联网真的很稳定AI这条大腿？我们不妨从物联网上实现AI分析几种方法。

AIoT芯片

与边缘端对AI随着需求的增加，事实上，许多制造商在不改变芯片结构的情况下，又为边缘AI开发带来了一系列工具。以意法半导体为例，他们的半导体STM32商品全部适配NanoEdge生态学适用于生成异常检测、异常值检测、分类和回归ML可以完成常见的能源管理和寿命预测。

对于具有更高特征要求的深度学习应用，需要使用他的深度学习应用STM32Cube.AI了，对MCU需求也增加到Cortex-M33以上的内核。对于原芯片厂来说，这种方法不需要对设计做出重大改变，也有助于创造自己的设计AI开发工具链生态，也可以根据不同的芯片性能进行调整。

一些制造商开始添加芯片AI加速单元，比如Silicon Labs的BG24和MG24两个SoC，就加入了AI/ML硬件加速器，为Cortex-M33卸载解决机器学习算法的工作。根据规范，加速器是矩阵矢量Cpu，因此，更适合计算集中的矩阵浮点乘加，例如BG这种蓝牙无线SoC，蓝牙更容易完成AoA室内定位工作。

这个方案和当前的数据中心，HPC市场做法没有二致，针对性AI/ML对于这种专用性很强的负荷，真的不应该用来连累一般的计算性能，这个想法也考虑到了不同的AI框架的兼容性。未来可能会出现更多的异构方案，例如集成ArmNPU同时，添加各种硬件加速器核心。

但是，是否添加到原始芯片AI算法，或集成AI除了创造生态系统的考验外，加速器还会带来不可忽视的功耗增加，这对于一些不断供电的人来说也是如此IoT产品的影响可以忽略，但对于可穿戴产品，无疑代表着耐久性的降低。例如，苹果的一系列产品都有类似的设计Airpods，AppleWatch以功能为最大优先，续航不高。

当然，这里提到的介绍AI降低续航能力IoT优先考虑商品的功能和高质量的服务。毕竟，如果你从功耗力量AI如果它工作，它仍然可以大大提高电池寿命。使用华为的智能音频Sound Joy例如，在蓝牙模式下播放歌曲可以节省更多的电力，但如果将其转换为适用于智能语音的智能模式，电池寿命将变短。因此，华为还采用了动态调压节能算法，进一步提高了电池寿命。因此，它对这种类型有很多影响IoT如何使用商品AI功能开关和功耗调和功耗调整，是未来提升续航的大方向。

轻量AI框架

不仅仅是芯片制造商，AI框架开发人员也注意到了IoT庞大的边沿AI市场正在发布轻量化或高度可扩展的框架，例如TensorFlow Lite，Caffe2等。这个框架可以在内存最小的设备上操作ML模型不需要任何操作系统和库的支持。因为走的是轻量级的路线，所以和工作站或者数据中心这样的场景一起跑AI框架仍然不同，但也足以完成常见的物体检测、手势识别、超分辨率等工作，TinyML已成为每个物联网公司的研究方向。

此外，这些框架的开发人员提前给出升级后的模型，同时可以根据布局场景完成不同模型之间的转换，比如Tensorflow转化成TensorFlow Lite，TensorFlow Lite Micro在移动终端或边缘端部署，等等。虽然这个轻量级模型已经解决了操作问题，但后续的培训和改进也需要制造商自己完成。对于不同的特性，不同的芯片之间肯定有错误，比如手机操作AI模型必须比普通的嵌入式设备快得多。

好在大部分这些轻量AI框架是开源的，因此制造商可以对其进行特殊升级，并对一些现有的流行产品进行升级AI同时，模型可以在这个过程中构建其独特的框架和工具链，做好多元化工作。这些轻量级的AI框架面临的问题并非没有，比如适用的数据类型少，与模型训练不兼容等，也是限制其产生爆炸性产品的因素。

传感器AI

我们都知道，一旦数据处理被尽可能地放在前面的过程中，它不仅可以减少功耗和延迟，而且还可以大大提高AI计算效率节省了交给云解决的繁琐过程。在大多数情况下，IoT在场景中，传输数据过程的头部通常是传感器，因此制造商开始讨论集成，无论是哪种传感器AI的方案。

例如，意法半导体发布嵌入式智能传感器控制组件（ISPU）的MEMS传感器，直接把AI控制组件集成在传感器上，以创建一个智能传感器。这种传感器本身的定制水平也很高，可以直接匹配ISPUC语言编程还支持多个操作AI算法。

更重要的是，这种将AI在传感器方案中的集成显著降低了功耗，并在估计结束后将有效信息传递到待机状态MCU解决了，真正实现了MCU以前的数据智能解决方案。此外，该传感器的设计也可以使用哈佛的框架，甚至可以直接模拟计算，然后转换为模拟信号，以完成更高的效率，最后让冯·诺依曼构建CPU完成工作。

写在最后

当然，我们不能忽视云中的发展AI解决方案，尽管这是一条将特征放大到极致的路线。但是，如果未解决的信息移交给云解决方案，则添加云的成本将大大增加延迟；所有这些都将移交给终端测试以完成AI在计算的时候，功耗续航妥协，甚至不能跑出丰富的特性。

这就是为什么亚马逊、阿里巴巴等厂商纷纷部署IoT边缘计算的原因，即使边缘接管了主要原因AI在计算工作中，数据仍然可以移交给云进行监督、存储和分析，这不一定是一个实时连接的过程，只有间歇同步才能实现目标。

此外，固件升级的任务主要移交给云。在有效的分析和培训下，云可以将升级后的模型传递到边缘端。因此，正因为如此，物联网想要真正进入AI终端云协作是时代最佳方案。