“只有江湖骗子和傻瓜才能预测未来，只有傻瓜才能确定未来"。– 可能是某个聪明人说的
预测未来往往是痴人说梦，尤其是在技术和人工智能等高度动态的领域。有鉴于此，在我对 2023 年的边缘人工智能做一些预测时，请对我温柔点，我尽量不做傻事。在我们深入探讨预测之前，我将在下一篇文章中讨论这些预测。
边缘人工智能的现状
我经常在文章中提到推动边缘人工智能达到新的有用性和价值水平的尾风，下面我将再次谈到这些尾风。不过，同样重要的是要了解边缘人工智能所面临的逆风。潜在威胁和机遇的结合使边缘人工智能处于混乱的非线性状态，在某些领域取得了很大进展，而在另一些领域却进展甚微。
尾风
让我们从推动边缘人工智能创新的三大趋势谈起：人工智能研究的新焦点、社区参与和技术突破。传统上，人工智能约 30 万篇研究论文的大部分都集中在以训练和优化大型模型为中心的主流人工智能创新上。近年来，少数研究人员意识到 “小即是美"，从而在模型效率方面取得了突破，这将促进人工智能在边缘物联网电子设备上的运行。与此同时，技术突破（如Ambiq 的SPOT®平台）使初创企业和开发人员能够发现实用边缘用例的新应用。这些最新发展帮助生产出了一些真正令人惊叹的智能产品，消费者开始认为这些产品是理所当然的。我的手表知道我在椭圆机上 “从 “哇！"到 “当然知道 “的速度令人印象深刻。
逆风
不过，并非所有事情都是彩虹和独角兽：边缘人工智能还必须应对一些不利因素，包括内存限制、传感器类型稀缺以及数据集的可用性。让我们从内存开始逐一分析。
内存
边缘人工智能在嵌入式设备上运行，虽然功耗和计算方面的创新日新月异，但内存的改进却相当缓慢（这是一个普遍趋势，并非嵌入式设备特有）。人工智能计算是内存密集型的，涉及到海量数组与传感器捕获的几乎同样海量的数据相乘。模型越复杂，所需的内存就越大–例如，著名的人工智能应用 ChatGPT 和Midjourney就需要数千 兆字节的内存，比边缘设备上的 内存多数千倍。 在边缘人工智能领域，有几种方法可以缓解这种情况：我们可以牺牲一点准确性或降低模型的复杂程度（例如，模型可以识别较少类型的健身活动）。人工智能设计者还可以利用我们上面提到的一些研究，其中大部分研究都集中在生产更密集、更紧凑的模型，同时牺牲较少的准确性或功能。
数据集
数据集的可用性是另一个制约因素。人工智能依赖于（大量的）数据来训练模型。一个小数据集与一个大数据集的区别在于，一个活动跟踪器可以 “某种程度上 “检测到你在做仰卧起坐，而另一个活动跟踪器则可以检测到任何体型的任何健身水平的任何仰卧起坐方式。制作数据集既费力又昂贵，而且公共数据集很少见，尤其是在嵌入式领域。例如，"仰卧起坐 “数据集需要数百人在佩戴数据采集设备的情况下做数千个仰卧起坐。在过去的十年中，业界已经在语音、音频和图像等有限但流行的领域拼凑了一些公共数据集（例如，使用公共领域的书籍作为机器翻译人工智能的训练材料）。这种方法尚未广泛应用于边缘人工智能的特定数据。事实上，边缘人工智能的前景主要在于隐私敏感的医疗和健身追踪应用，这只会让数据收集工作更具挑战性。
最后，边缘人工智能与 “主流 “人工智能有很大不同，因为它与物理世界密切互动。典型的人工智能主要处理文本、图像和音频，而边缘人工智能则嵌入现实世界，通过以下方式感知现实世界 陀螺仪、加速度计、摄像头、麦克风和生物传感器。 这加剧了我们上文提到的数据集问题（图像就是图像，但有许多加速度计，尽管它们测量的是同样的东西，却都略有不同）。同时，边缘人工智能对边缘传感器的依赖意味着，目前人工智能能做的事情屈指可数–人工智能只能从加速度计中推断出这么多东西，尽管我们还远远没有穷尽所有可能性。新的传感器正在被引入，但这些传感器会遇到我们上面提到的数据集问题，从而减缓人工智能对它们的采用。
权衡利弊
为您的边缘产品添加人工智能功能是一项需要权衡利弊的工作–人工智能是出了名的资源密集型产品，需要消耗大量的 CPU 周期、内存和电力。在 Ambiq，我们对能效非常痴迷，这种痴迷使我们在基于 CPU 的推理基准测试结果中大幅领先于业界。我们有目的地构建我们的硬件和软件，使其能够协同工作，提供最佳结果，平衡精度、性能和功耗，满足任何边缘设备的人工智能要求。
Ambiq 通过推动超低功耗创新，已成长为全球最令人垂涎的人工智能（AI）技术公司之一。2022 年 7 月，Ambiq 推出了 neuralSPOT®，在电池电量有限的情况下在电子设备上实现人工智能。过去由于功耗要求而无法实现的物联网边缘设备现在能够实现高性能人工智能功能，包括语音识别、活动检测和实时分析。
neuralSPOT 包括在 Ambiq 平台（如最新的Apollo4 Plus和Blue PlusSoC）上建立人工智能模型所需的一切。SDK 包括用于与传感器对话、SoC 外围设备管理、电源和内存控制配置的库，用于从任何笔记本电脑或 PC 轻松调试 AI 模型的工具，以及将所有功能整合在一起的示例。
因为模型是人工智能的核心，为了使实用的边缘人工智能成为可能，Ambiq 还创建了 ModelZoo是一个开源边缘人工智能模型集合，其中包含从零开始开发模型所需的所有工具。neuralSPOT 包含 Ambiq 专用的嵌入式库，用于音频、i2c 和 USB 外围设备、电源管理以及大量辅助功能（如进程间通信和内存管理）。这是第一次，一个简单而优雅的工具可以为不同角色的人工智能开发人员（包括数据专家、人工智能专家和应用专家）提供支持。欲了解更多信息，请访问Ambiq AI – Ambiq Supercharging edge AI
