“只有江湖騙子和傻瓜才能預測未來，只有傻子才能確定。” – 可能是某個聰明人
預測未來往往是一件傻事，尤其是在科技和人工智慧等高度動態的領域。牢記這一點，請溫柔地對待我，因為我在對 2023 年的邊緣人工智慧做出一些預測時盡量不要出醜。在我們深入探討我 將在下一篇文章中討論的預測之前，通過了解當今行業的情況來了解一些背景信息會很有用。
邊緣人工智慧的現狀
我經常寫到推動邊緣人工智慧將實用性和價值提升到新水平的順風，我將在下面再次討論這些因素。儘管如此，了解它也正在經歷的逆風也很重要。潛在威脅和機會的結合使邊緣人工智慧處於混亂的非線性狀態，在某些領域取得了很大進展，而在其他領域進展較少。
順風
讓我們從推動邊緣人工智慧創新的三大趨勢開始：人工智慧研究的新焦點、社區參與和技術突破。人工智慧大約 300,000 萬篇研究論文中的大部分傳統上都集中在以訓練和優化超大型模型為中心的主流人工智慧創新。近年來，少數研究人員意識到“小即是美”，從而在 模型效率 方面取得了突破，這將促進人工智能在邊緣物聯網電子設備上運行。同時， Ambiq 的 SPOT® 平台等技術突破使新創公司和開發人員能夠發現實際邊緣用例的新應用。這些最近的發展幫助生產了一些真正令人驚嘆的產品，這些產品具有消費者開始認為理所當然的智能。「我的手錶知道我在橢圓機上」從「哇！」到「當然，確實如此」的速度令人印象深刻。
逆風
不過，並非一切都是彩虹和獨角獸：邊緣人工智慧也必須應對一些阻力，包括記憶體限制、感測器類型稀缺以及資料集的可用性。讓我們從記憶開始檢查其中的每一個。
記性
邊緣 AI 在嵌入式設備上運行，雖然電源和計算創新進展迅速，但內存正在線性改進（這是一個普遍趨勢，並非特定於嵌入式設備。人工智慧運算是記憶體密集型的，涉及將大量數字陣列乘以感測器捕獲的幾乎同等數量的資料。模型越複雜，需要的記憶體就越多——例如，著名的人工智慧應用程式 ChatGPT 和 Midjourney 需要千兆位元組的內存，比 邊緣設備上的內存多數千倍。 在邊緣人工智慧領域，有幾種方法可以緩解這種情況：我們可能會犧牲一點準確性或降低模型的複雜性（例如，模型可能會識別更少的健身活動類型。人工智慧設計師還可以利用我們上面提到的一些研究，其中大部分專注於生產更密集、更緊湊的模型，同時犧牲更少的準確性或功能。
資料集
資料集可用性是另一個限制。AI 依賴（大量）數據來訓練模型。小型數據集與大型數據集之間存在差異，活動跟踪器可以“某種程度上”檢測您何時進行仰臥起坐，而活動跟踪器可以檢測任何體型的每種健身水平的任何仰臥起坐風格。 產生資料集既費力又昂貴，而且 公共資料集很少見，尤其是在嵌入式領域。例如，一個「仰臥起坐」資料集需要數百人在佩戴資料擷取裝置時做數千次仰臥起坐。在過去的十年中，該行業在語音、音頻和圖像等有限但流行的領域拼湊了一些公共數據集（例如，通過使用公共領域書籍作為機器翻譯 AI 的培訓材料）。這種方法尚未廣泛應用於邊緣 AI 的特定數據。事實上，邊緣人工智慧的大部分承諾都存在於隱私敏感的醫療和健身追蹤應用中，這只會使收集資料變得更具挑戰性。
最後， 邊緣人工智慧與「主流」人工智慧有很大不同 ， 因為它與物理世界密切互動。典型的人工智慧主要處理文字、圖像和音頻，而邊緣人工智慧則嵌入現實世界，透過 陀螺儀、加速度計、攝像頭、麥克風和生物傳感器。 它加劇了我們上面提到的數據集問題（圖像是圖像，但有很多加速度計，即使它們測量的是相同的東西，但都略有不同。同時，邊緣人工智慧對邊緣感測器的依賴意味著人工智慧目前只能做幾件事——人工智慧可以從加速度計中推斷出的只有這麼多，儘管我們還沒有用盡這些可能性。新型感測器正在推出，但這些感測器將一頭栽進我們上面提到的資料集問題，從而減緩人工智慧對它們的採用。
權衡練習
將 AI 功能新增至您的邊緣產品是一項權衡的練習 – AI 是出了名的資源密集型，會消耗大量的 CPU 週期、記憶體和電源。在 Ambiq，我們痴迷於能源效率，這種痴迷導致了業界領先的節能 CPU 推理基準測試結果。我們有目的地構建我們的硬件和軟件，以協同工作以提供最佳結果，平衡準確性、性能和功耗以滿足任何邊緣設備的 AI 要求。
Ambiq 通過推動超低功耗創新，已成長為全球最令人垂涎的人工智能 （AI） 技術公司之一。2022 年 7 月，Ambiq 推出了 neuralSPOT® ，在電池功率限制內在電子設備上實現人工智能。過去由於功耗要求而不可能實現的物聯網邊緣設備現在能夠實現高性能的 AI 功能，包括語音識別、活動檢測和實時分析。
neuralSPOT 包括將 AI 模型引入 Ambiq 平台所需的一切，例如最新的 Apollo4 Plus 和 Blue Plus SoC。此 SDK 包含用於與感測器通訊的程式庫、SoC 周邊裝置管理、電源和記憶體控制配置、可從任何筆記型電腦或 PC 輕鬆偵錯 AI 模型的工具，以及將它們連結在一起的範例。
由於模型是 AI 的核心，為了使實用的邊緣 AI 成為可能，Ambiq 還創建了 ModelZoo，這是一個開源邊緣 AI 模型的集合，其中包含從頭開始開發模型所需的所有工具。有用於與感測器通訊、管理 SoC 周邊裝置、控制電源和記憶體配置的程式庫、可從筆記型電腦或 PC 輕鬆偵錯模型的工具，以及將它們連結在一起的範例。neuralSPOT 包含 Ambiq 特定的嵌入式函式庫，用於音訊、i2c 和 USB 周邊裝置、電源管理，以及許多輔助功能，例如處理程序間通訊和記憶體管理。首次，一個簡單而優雅的工具可以賦予不同角色的 AI 開發人員權力，包括數據專家、AI 專家和應用專家。欲了解更多信息，請訪問 Ambiq AI – Ambiq Supercharging edge AI
