如何在边缘更有效地实施 AI 和 ML？
? ? ? ?人们对在工业环境中部署人工智能（AI）和机器学习（ML）应用，以提高生产力和效率，同时实现运营成本的节约，有着广泛的兴趣。然而，正如任何工程师或工程经理都会告诉您的那样，在将"智能"添加到"哑巴"机器（例如从电机到 HVAC 系统）时，需要解决三个主要问题。
首先，拥有 AI 和 ML 专业知识的人不足以满足需求，而且可用的专家并不便宜。
其次，缺乏用于训练 AI 和 ML 系统的合格数据集，并且任何可用的数据集都受到严格保护。
第三，AI和ML系统传统上需要高端处理平台来运行。
我们需要一种方法，让没有 AI 和 ML 经验的现有工程师和开发人员能够快速创建 AI 和 ML 系统，并将它们部署在高效、低成本的微控制器平台上。一家名为 Cartesiam.AI 的初创公司正在通过其 NanoEdge AI Studio 来试图解决这些问题。
轻松将AI引入工业系统
关于工业部署的一个主要因素是利用现有的 "哑巴 "机器，通过增强AI和ML能力使它们变得 "聪明"。据估计，仅在美国就有6.8万亿美元的现有"哑巴"（传统）基础设施和机器。
物联网 (IoT) 和工业物联网 (IIoT) 已经无处不在，每天都有数以万计的设备连接起来，下一个挑战是如何让这些设备变得智能。
创建 AI/ML 应用的传统方法是定义神经网络架构，包括神经层数、每层神经元数以及各种神经元和层连接在一起的方式。下一步是访问一个合格的数据集（它本身可能需要大量的时间和资源来创建）。该数据集用于训练云中的网络（即使用大量具有巨大计算能力的高端服务器）。最后，将训练好的模型转换成适合部署在边缘设备中的形式。
根据 IBM Quant Crunch 报告，数据科学与分析 (DSA) 不再仅仅是流行语；相反，它们是必不可少的业务工具。然而，人们越来越担心具有 DSA 技能的人才供应严重滞后于需求，仅在美国，目前数据科学家的短缺就达到 13万人。
不幸的是，缺乏对熟练数据科学家和合格数据集的访问，是快速且经济地创建支持 AI/ML智能对象的障碍之一。来自思科的数据显示，物联网项目的失败率一般在 74% 左右，而这种失败率在启用 AI/ML 的项目中会增加。
根据 IDC 的数据，全球约有 2200 万软件开发人员。其中，大约 120 万人专注于嵌入式系统，而其中只有约0.2%的人拥有最基本的AI/ML技能。
一些 AI 和 ML 系统，例如执行对象检测和识别的机器视觉，需要使用特殊的高端计算设备，包括图形处理单元 (GPU) 和/或现场可编程门阵列 (FPGA)。然而，AI/ML技术的新发展意味着绝大多数非视觉AI/ML应用可以部署在相对低端的微控制器上，这些微控制器在嵌入式系统中非常突出。
根据Statista的数据，2020年微控制器的全球出货量约为280亿台，使基于微控制器的平台成为市场上最普及的硬件。微控制器具有低成本和低功耗，是将智能推向边缘的完美平台。
即使对于拥有数据科学家和数据集以及基本上没有预算限制的大型企业组织，也很难精通AI和ML。对于较小的公司来说，就更难以实现。如果情况保持"原样"，那么到 2025 年，25%的边缘设备可能将无法增强 AI/ML 功能。
一种简单、快速且经济实惠的方式来开发支持 AI/ML 的智能对象
工业环境中嵌入式应用最普遍的计算平台是微控制器，没有任何微控制器比Arm 的 Cortex-M 系列更普遍，尤其是 M0、M0+、M3、M4 和 M7。
很多企业都具有嵌入式开发人员。需要某种方式让这些开发人员像 AI/ML 专家一样行事，而无需对其进行过多培训。
理想的解决方案是让传统的嵌入式开发人员能够快速轻松地创建具有自我意识的机器，这些机器可以自动学习和理解他们的环境、识别模式和检测异常、预测问题和结果，并在负担得起的基于微控制器的基础上完成所有这些工作生成和捕获数据的边缘平台。
正如前面提到的， NanoEdge AI Studio就是这样一个平台。使用在 Windows 10 或 Linux Ubuntu 上运行的集成开发环境 (IDE)，嵌入式开发人员首先选择目标微控制器，范围从 Arm Cortex-M0 到 M7。此外，开发人员或设计人员还可以指定分配给解决方案的最大 RAM 量。如果您有点生疏，或者对这些都不熟悉，那么可以从V2M-MPS2-0318C Arm Cortex-M 原型系统开始（图1）。
? ? ? ?
图 1：V2M-MPS2-0318C 是一个功能强大的开发平台，适用于基于 Arm Cortex-M 的应用，具有大量 I/O 和 LCD 显示器。
V2M-MPS2-0318C 是 Arm Versatile Express 系列开发板的一部分。它配备了一个相对较大的 FPGA，用于对基于 Cortex-M 的设计进行原型设计。为此，它配备了所有 Cortex-M 处理器的固定加密 FPGA 实现。此外，它还有很多有用的外围设备，包括 PSRAM、以太网、触摸屏、音频、VGA LCD、SPI 和 GPIO。
接下来，开发者需要选择要使用的传感器的数量和类型；Cartesiam.AI 方法的好处在于，对可以使用的传感器没有硬性限制。例如，它们可以包括：
·一、二、三轴加速度计（基本上任何频率的振动分析）；
·磁性传感器；
·温度传感器；
·麦克风（用于声音识别）；
·用于电机控制的霍尔效应传感器；
·电流监测传感器。
需要注意的是，开发人员不需要定义特定的零件号，只需定义通用的传感器类型。
下一步是加载上下文传感器数据；也就是说，与每个传感器相关联的通用数据可以让系统了解它将要处理的内容。
NanoEdge AI Studio 配备了一套广泛的 AI/ML"构建块"，可用于为 90% 或更多的工业 AI/ML 任务创建解决方案。一旦它被告知目标微控制器、传感器的数量和类型以及它可以预期看到的传感器数据的通用类型，它将从 5 亿个可能的组合中生成最佳的 AI/ML 库解决方案。
如果开发人员愿意，可以选择通过附带的仿真器在运行 NanoEdge AI Studio IDE 的同一台 PC 上对该解决方案进行测试，然后将其嵌入到主微控制器程序中，编译并下载到基于微控制器的系统中是要与目标机器相关联。
例如，假设有两台我们希望变得聪明的"哑巴"机器。其中一台机器可能是泵，而另一台可能是电机。并假设我们正在创建一个使用温度传感器和 3 轴加速度计的单一解决方案，并且将在两台机器上部署相同的解决方案（图 2）。
? ? ? ?
图 2：在使用NanoEdge AI Studio IDE创建和测试AI/ML库（可选）后，该库被嵌入到主程序中，被编译并下载到基于微控制器的系统中，该系统将与目标机器相关联。经过一个学习阶段（通常是每天24小时运行一周），推理引擎可以用来发现和报告异常情况，并预测未来的结果。图片来源：Max Maxfield
当然，这两台机器会有完全不同的特性。实际上，两台其他方面相同的机器可能具有非常不同的特性，具体取决于它们的位置和环境。例如，同一工厂的同一房间内相距 20 米的两台相同的泵可能会表现出不同的振动曲线，这取决于它们的安装位置（一个在混凝土上，另一个在木质地板托梁上）以及它们所连接的管道的长度、形状和材料。
整个过程的关键在于，AI/ML 解决方案是在已知的正常机器上单独训练的，这种训练通常需要一周时间，每天 24 小时不间断地运行，从而使系统能够从温度波动和振动模式中学习。当然，以后还可以进行额外的训练，以微调模型，考虑到与不同季节有关的环境变化（对于外部应用）和其他预期变量。
一旦解决方案经过培训，他们就可以开始从任何新数据中进行推断，识别模式和检测异常，预测问题和结果，并根据需要将他们的结论呈现给仪表板进行技术和管理分析。
? ? ? ?
