因此，在我之前的文章中， 我討論了我們如何擁有三個強大的順風遇到三個令人生畏的逆風 ——這對邊緣人工智慧意味著什麼？在所有這些反作用中，一個理智的水手會告訴你留在港口，但那又有什麼樂趣呢？它確實使預測趨勢變得困難，儘管還不足以至於我不願意冒險通過嘗試來出醜。
隱形 AI 改進功能
預測 1：調整邊緣設備內部功能的新型“隱形”模型將激增。
鑑於我們上面討論的限制，人工智慧在邊緣可以做的少數事情足夠受歡迎，足以鼓勵投資，例如簡單（但聰明）的 語音辨識、音訊和影像分類、活動和健康監測以及工業感測器監控。
人工智慧可以做許多其他事情，但最終用戶只能部分看到。比如 人工智慧可用於偵測您所在的房間類型，並利用它更有效地調整通話期間的降噪功能。T 來電者只會注意到音質良好的通話，而不知道人工智慧的參與。其中許多類型的「近物理」模型不需要大量資料集，相反，可以使用 模擬、 強化學習和零樣本或少樣本學習等技術來訓練模型。
人工智慧模型不斷改進
預測二：現有模型將繼續改進和添加功能。
正如我上面提到的，大多數當前模型在可以從傳感器推斷的信息方面留下了很多問題。例如，您可以從一個人 的步行步態 中了解他們的健康狀況——它的平衡程度、他們喜歡哪種步行方式等等。大多數模型不會嘗試這樣做，因為資料集目前不存在，但 資料 就在那裡。每個佩戴智慧手錶的人都是潛在的資料來源，手錶製造商只需收集其中的一小部分數據即可建立令人驚嘆的資料集。這是一個找到願意自願提供數據的人的問題，一些主要製造商目前正在這樣做。
什麼是邊緣人工智慧？
通常，當使用者在消費性、工業和安全設備中與人工智慧互動時，只有一小部分人工智慧處理發生在本地，而「繁重的工作」則委託給雲端。這並不理想，因為來回發送所有數據會消耗能源、增加延遲並暴露潛在的私人數據。
邊緣人工智慧旨在解決這些問題。它是指完全在嵌入式系統上本地運行的人工智慧，無需持續與雲端通信，從而節省電力和時間，同時提高隱私和安全性。Ambiq 的低功耗意味著可以在不影響電池壽命的情況下在本地執行更多 AI。
我經常寫到推動邊緣人工智慧將實用性和價值提升到新水平的順風，我將在下面再次討論這些因素。儘管如此，了解它也正在經歷的逆風也很重要。潛在威脅和機會的結合使邊緣人工智慧處於混亂的非線性狀態，在某些領域取得了很大進展，而在其他領域進展較少。
更有效率的人工智慧部署
預測 3：2023 年將看到高效 AI 運行時的成熟和採用。
AI 透過「運行時」在裝置上執行，這是一段理解模型定義並在裝置上執行的程式碼。最受歡迎的運行時是“Tensorflow Lite for Microcontrollers”（TLFM）。TLFM 是在裝置上啟動和執行模型的好方法，因為它擁有龐大的開發人員生態系統，可以利用這些生態系統來解決問題和支援，並且圍繞它構建了許多工具。不幸的是，與優秀的編碼人員手動生成的內容相比，它的效率不是很高（就像 Ambiq® 為我們的語音識別模型收集 NNSP 所做的那樣。TLFM 使用更多記憶體和運算，導致更高的使用率、延遲和記憶體佔用量。不過，手動編寫 AI 模型是*困難*的，因此開發人員傾向於堅持使用 TFLM。
然而，有一條中間路徑：將人工智慧模型轉換為「可編譯」語言（例如 C）的工具。這些與高效的運行時間相結合，執行模型的速度比 TFLM 快很多倍。有少數這樣的解決方案，儘管沒有一個像 TFLM 那樣被廣泛採用或得到廣泛支持。
結論
將 AI 功能新增至您的邊緣產品是一種權衡的練習——眾所周知，AI 是資源密集型的，消耗大量的 CPU 週期、記憶體和功耗。在 Ambiq，我們痴迷於能源效率，這種痴迷導致了業界領先的節能 CPU 推理基準測試結果。我們有目的地構建我們的硬件和軟件，以協同工作以提供最佳結果，平衡準確性、性能和功耗以滿足任何邊緣設備的 AI 要求。
Ambiq 通過推動超低功耗創新，已成長為全球最令人垂涎的人工智能 （AI） 技術公司之一。2022 年 7 月，Ambiq 推出了 neuralSPOT® ，在電池功率限制內在電子設備上實現人工智能。過去由於功耗要求而不可能實現的物聯網邊緣設備現在能夠實現高性能的 AI 功能，包括語音識別、活動檢測和實時分析。
neuralSPOT 包括將 AI 模型引入 Ambiq 平台所需的一切，例如最新的 Apollo4 Plus 和 Blue Plus SoC。此 SDK 包含用於與感測器通訊的程式庫、SoC 周邊裝置管理、電源和記憶體控制配置、可從任何筆記型電腦或 PC 輕鬆偵錯 AI 模型的工具，以及將它們連結在一起的範例。
由於模型是 AI 的核心，為了使實用的邊緣 AI 成為可能，Ambiq 還創建了 ModelZoo，這是一個開源邊緣 AI 模型的集合，其中包含從頭開始開發模型所需的所有工具。有用於與感測器通訊、管理 SoC 周邊裝置、控制電源和記憶體配置的程式庫、可從筆記型電腦或 PC 輕鬆偵錯模型的工具，以及將它們連結在一起的範例。neuralSPOT 包含 Ambiq 特定的嵌入式函式庫，用於音訊、i2c 和 USB 周邊裝置、電源管理，以及許多輔助功能，例如處理程序間通訊和記憶體管理。首次，一個簡單而優雅的工具可以賦予不同角色的 AI 開發人員權力，包括數據專家、AI 專家和應用專家。
欲了解更多信息，請訪問 Ambiq AI – Ambiq Supercharging edge AI
