雖然人工智慧 （AI） 推理在日常應用程式中看似無縫，但後端的產品開發人員和工程師知道人工智慧是多麼耗電。市場上的每一款最終產品都會經過深思熟慮的妥協，以滿足他們的能源需求。鑑於人工智慧採用在過去一年中增長的速度如此之快1，整體能源消耗猛增，從而產生了對更大模型和訓練集的需求。最近的一項研究發現，到 2027 年，人工智慧產業消耗的能源可能相當於荷蘭大小的國家2.
物聯網的興起只會增加等式。例如，智慧型裝置需要大量能源才能實現創新用例和持久的電池電量。高效的能源推理是開發人員在創新越來越有影響力的人工智慧應用時的重要前進道路。網絡越大，你能做的就越多，對吧？
在本文中，我們將研究推動人工智慧運算能力的不同能量水平、它們的主要應用，以及低功耗技術推動的人工智慧推理的未來。
人工智慧推理的能量水平
人工智慧推理主要使用三種能量水平。層次結構中的每個層級都代表能力和運算能力之間的權衡。下面，我們概述了這些差異以及它們如何在現實世界的用例中實現：
皮焦耳 （pJ）
皮焦耳用於超低功耗設備中的 AI 推理，這些設備執行簡單的 AI 任務並面臨嚴格的功率限制。它們也是能量採集的最佳選擇，即從系統環境中捕獲能量並將其轉換為穿戴式裝置、無線感測器網路等可用電力的過程3. 然而，由於能量位極低，皮焦耳的計算能力可能有限。
物聯網在這種能源水平上的主要應用包括環境監測、工業感測和農業。
環境監測涉及將人工智慧應用於嵌入灌溉系統、管道、儲罐、氣象站、海洋應用和工業設備的感測器，這些感測器可以檢測溫度、濕度、水位、洩漏和其他物理特性。當資料傳回雲端時，我們可以追蹤、分析資源的使用和分配方式，並採取進一步的行動。
工業感測涉及將人工智慧應用於工業機械中的溫度感測器、熱像儀、超音波感測器、光電管、電感感測器、雷達、視覺相機和運動感測器。借助感測器數據，我們能夠在機器問題發生之前預測和預防它們。
對於農業來說，皮焦耳功率等級涉及將人工智慧應用於放置在土壤或水系統中的環境感測器。收集的數據可以幫助解決一系列問題，包括作物產量預測、選擇和管理;土壤相容性分類;和水管理。智慧農業的各個方面 都有助於養活不斷增長的人口。
納焦耳 （nJ）
納焦耳通常用於行動和電池供電設備（例如智慧型手機或其他便攜式設備）中的低功耗人工智慧應用，因為它們最適合延長電池壽命和減少對持續網路連線的需求。它們能夠在低功耗和足夠的計算能力之間取得平衡，因此適用於廣泛的應用。雖然納焦耳驅動的設備可能比皮焦耳級設備更強大，但它們在處理高度複雜的人工智慧運算時仍可能面臨挑戰。
物聯網在這種能源水平上的主要應用包括穿戴式裝置、智慧家庭和遠端數位健康設備。
穿戴式裝置監控涉及將人工智慧應用於智慧手錶、擴增實境技術、健身追蹤器等小工具，以增強娛樂、田徑和其他體驗。智慧家庭管理涉及將人工智慧應用於各種家庭設備，例如照明、暖氣、揚聲器等。機器學習會了解居住者的偏好並相應地調整各種設定。
遠程患者監護 是這一功率級別增長最快的細分市場之一，它將人工智能應用於小型健康可穿戴設備（別針、手錶等），以跟踪患者生命體徵並提供個性化支持、藥物提醒和有用的見解。隨著提供者和患者希望提高醫療保健效率並帶來更好的結果，這種用例變得越來越普遍。
微焦耳 （μJ）
微焦耳適用於中等功耗可以接受但應最小化的應用。它們通常涉及更複雜的人工智慧任務，因此它們不僅對於延長電池壽命而且減少整體環境影響至關重要。微焦耳用於邊緣運算設備，其中人工智慧在本地或嵌入式系統中完成。雖然仍然節能，但微焦耳級設備可能不適合具有超嚴格功率限制的應用。
物聯網在這種能源水平上的主要應用包括攝像頭監控和汽車增強。攝影機監控涉及將人工智慧應用於監控系統、智慧家庭攝影機、運動偵測器等，以追蹤和分析人類、車輛、屬性和事件。汽車增強涉及在車輛中應用人工智慧，例如攝影機、儀表板、氣候控制等，為消費者提供新的、個人化的車內體驗。
低功耗技術如何推動人工智慧推理創新
將人工智慧無處不在並將其無縫融入我們的日常生活是我們的目標。透過這種轉變，功耗將需要工程師更加關注。為了做更多的事情，非常需要創新不妨礙邊緣用戶體驗的低功耗技術。正在尋找實現功耗最少的人工智慧的聖杯。
Ambiq 如何做出貢獻
自 2010 年以來，超低功耗半導體解決方案的領導者 Ambiq 已幫助實現了超過 230,000,000,000 台智能邊緣設備，一次充電可持續使用數天、數週甚至數月。Ambiq 透過革命性的 亞閾值功率最佳化技術 （SPOT ®） 平台實現了這一點，該平台為智慧型裝置提供了數倍的能源效率。隨著人工智慧在我們生活中的日益融合，Ambiq 開發了一種解決方案，可以解決獨特的電源挑戰並擴展開發人員的視野。
來源：
1 2023 年 AI 現狀：生成式 AI 的突破年 |2023
2 警告人工智慧產業可能消耗與荷蘭一樣多的能源 |2023
3 三種能量採集解決方案展現物聯網電源的可能性 |2024
