
虽然人工智能(AI)推理在日常应用中看似天衣无缝,但产品开发人员和后端工程师都知道人工智能是多么耗电。市场上的每一款最终产品都是经过深思熟虑的妥协,以满足其能源需求。鉴于人工智能的应用在过去一年中增长如此之快1 ,整体能耗也急剧上升,这就需要更大规模的模型和训练集。最近的一项研究发现,到2027 年,人工智能行业消耗的能源可能相当于一个荷兰大小的国家2。
物联网的崛起使问题更加复杂。例如,智能设备需要大量能源来实现创新用例和持久的电池电量。高效的能源推断是开发人员在创新人工智能应用时的必经之路。网络越大,你能做的就越多,对吗?
在本文中,我们将探讨人工智能计算能力的不同能级、其主要应用以及由低功耗技术推动的人工智能推理的未来。
人工智能推理的能级
人工智能推理主要有三个能量等级。每个等级都代表了功率和计算能力之间的权衡。下面,我们将概述这些差异以及它们在实际应用案例中的体现:
皮焦 (pJ)
微微焦用于超低功耗设备中的人工智能推理,这些设备可执行简单的人工智能任务,并面临严格的功耗限制。它们也是能量采集的最佳选择,在能量采集过程中,可从系统环境中获取能量,并转换为可穿戴设备、无线传感器网络等的可用电力3。 然而,由于能量水平极低,皮焦的计算能力可能有限。
物联网在这一能级上的主要应用包括环境监测、工业传感和农业。
环境监测包括将人工智能应用于嵌入灌溉系统、管道、水箱、气象站、海洋应用和工业设备的传感器,这些传感器可以检测温度、湿度、水位、泄漏和其他物理特性。当数据传回云端时,我们就可以对资源的使用和分配进行跟踪、分析并采取进一步行动。
工业传感涉及将人工智能应用于工业机械中的温度传感器、热像仪、超声波传感器、光电池、感应传感器、雷达、视觉相机和运动传感器。有了传感器数据,我们就能在机器出现问题之前进行预测和预防。
在农业领域,皮焦耳功率等级涉及将人工智能应用于土壤或水系统中的环境传感器。收集到的数据可以帮助解决一系列问题,包括作物产量预测、选择和管理;土壤兼容性分类;以及水资源管理。智能农业的各个方面都有助于养活不断增长的人口。

纳焦���nJ)
纳米焦耳通常用于智能手机或其他便携式设备等移动和电池驱动设备中的低功耗人工智能应用,因为它们是延长电池寿命和减少持续网络连接需求的最佳选择。它们能在低功耗和足够的计算能力之间取得平衡,因此适用于各种应用。虽然纳米焦耳供电的设备可能比皮焦级设备更有能力,但它们在处理高度复杂的人工智能计算时仍可能面临挑战。
这种能级的物联网主要应用包括可穿戴设备、智能家居和远程数字健康设备。
可穿戴设备监控涉及将人工智能应用于智能手表、增强现实技术、健身追踪器等小工具,以增强娱乐、运动和其他体验。智能家居管理涉及将人工智能应用于照明、供暖、扬声器等各种家用设备。机器学习会捕捉居住者的偏好,并相应地调整各种设置。
远程患者监护是这一功率级别中增长最快的细分市场之一,它将人工智能应用于小型健康可穿戴设备(胸针、手表等),以跟踪患者的生命体征,并提供个性化支持、用药提醒和有用的见解。由于医疗服务提供者和患者都希望提高医疗保健的效率并改善疗效,因此这种用例正变得越来越普遍。
微焦耳 (μJ)
微焦耳适用于可接受适度功耗但应尽量减少功耗的应用。它们通常涉及更复杂的人工智能任务,因此不仅对延长电池寿命至关重要,而且还能减少对环境的整体影响。微焦耳适用于在本地或嵌入式系统中进行人工智能的边缘计算设备。微焦耳级设备虽然仍然节能,但可能不适合具有超严格功耗限制的应用。
物联网在这一能级的主要应用包括摄像头监控和汽车增强功能。摄像头监控涉及将人工智能应用于监控系统、智能家居摄像头、运动探测器等,以跟踪和分析人类、车辆、属性和事件。汽车增强功能涉及在汽车中应用人工智能,如摄像头、仪表盘、气候控制等,为消费者提供全新的个性化车载体验。
低功耗技术如何推动人工智能推理创新
将人工智能无处不在并无缝融入我们的日常生活是我们的目标。在这一转变过程中,功耗将需要工程师给予更多关注。要想做得更多,就亟需创新不妨碍边缘用户体验的低功耗技术。我们正在寻找实现耗电量最小的人工智能的圣杯。
Ambiq 如何做出贡献
自 2010 年以来,超低功耗半导体解决方案的领导者 Ambiq 已帮助超过 2.3 亿台智能边缘设备实现了一次充电可使用数天、数周甚至数月。Ambiq 通过革命性的亚阈值功率优化技术(SPOT ®) 平台实现了这一目标,为智能设备提高了数倍能效。随着人工智能日益融入我们的生活,Ambiq 已开发出一种解决方案,可以解决独特的电源挑战,并扩展开发人员的视野。
资料来源
1 2023 年的人工智能现状:生成式人工智能的爆发之年| 2023年
2 人工智能产业的能耗可能与荷兰相当| 2023 年
3 三种能量收集解决方案展示物联网供电的可能性| 2024年