heliacore bg mobile
heliacore bg desktopheliacore visual desktop scaled

heliaCORE – 針對邊緣 AI 優化的核心

Ambiq AI 的核心加速技術

heliacore kv mobile

heliaCORE™ 是 Ambiq 針對 Ambiq SPOT SoC 所優化的神經網路核心層,透過高效能的 AI 核心與廣泛的運算子加速功能,讓開發者能夠在資源受限的邊緣裝置上,快速將 AI 產品推向市場。 其支援的運算子實例數量約為 MLPerf Tiny 的 12 倍,涵蓋了更多真實世界的 AI 工作負載。

heliaCORE 重點介紹

01

業界標準的工作流程

heliaCORE 基於 Arm® CMSIS-NN 生態系統打造,確保與業界標準的嵌入式 AI 開發流程相容。

02

廣泛的實務人工智慧驗證

heliaCORE 透過驗證超過 40 種 AI 模型、53 種運算子類型、247 種不同運算子以及 963 個運算子實例,協助提升部署的可預測性,其範圍更超越了典型的基準測試條件。

03

MVE 與 DSP 加速

針對 ARM Cortex-M 平台使用經過優化的 AI 工作負載,優先採用 heliaCORE Cortex-M55 MVE 加速功能,同時針對不支援 MVE 的舊版 Apollo 硬體,維持 DSP 優化的實作方案。

04

與 HELIA AI 無縫整合

透過統一且針對矽晶片進行優化的核心平台,大幅降低邊緣 AI 部署的複雜性,該平台驅動 heliaRT 與 heliaAOT,並支援 CMake、CMSIS-Pack、Zephyr 及 neuralSPOT-X 工作流程。

卷積與矩陣乘法核函數

此基準測試透過標量參考、DSP 及 MVE 執行路徑,展示 heliaCORE 在 Apollo510(Cortex-M55)上的效能表現。 由於這三條執行路徑皆在同一顆 SoC 上以相同的時脈速度運作,因此這些結果能直接進行「同等條件下」的比較,清楚展現各 ISA 優化路徑所帶來的效能提升。

HeliaCORE diagram desktop

設計資源

heliaCORE 開發者中心 — 探索逐步指南、實作範例及效能基準測試,助您快速展開 heliaCORE 整合工作。
Ambiq AI 中心— 深入了解 neuralSPOT® AI SDK 與工具包,以及我們的 heartKIT、sleepKIT 和 soundKIT ADK

其他文檔

  • 設置收藏夾
  • 取得更新通知
  • 使用搜尋過濾器

影片庫

hqdefault
hqdefault
hqdefault

常見問題

  • heliaCORE 是經過優化的核心基礎架構。 heliaRT 是 Ambiq 的 用於在裝置上執行 AI 推論的執行時路徑,作為 LiteRT ,同時在使用 heliaCORE 作為底層架構。 heliaAOT 是 Ambiq 的 預編譯路徑,支援 LiteRT 平面緩衝區 並產生同樣依賴於 heliaCORE。

  • 像 Arm 的 CMSIS-NN 這樣的現有工具,雖提供了堅實的產業標準基礎,但它們 並非 專為 Ambiq 的 特定晶片,亦非針對 Ambiq 客戶 實際部署。 heliaCORE 是基於 CMSIS-NN 構建而非取代它,既保留了 API 及文件,同時增添了通用工具所缺乏的、專為 Apollo 設計的調校與支援範圍。

  • 每個基於 Ambiq 矽晶片的全新 在 Ambiq 晶片上執行的新邊緣 AI 專案,過去都要求團隊必須手動組裝、整合並 優化 軟體堆疊,往往需要耗費數月時間,才能開始進行實際的產品開發工作。 heliaCORE 則提供預先整合且預先優化的基礎架構,讓團隊能夠 , ,而非重新建構基礎架構 他們 已經建置過的基础架构。

  • MLPerf Tiny 是業界用於邊緣 AI 的業界標準基準測試, 該測試涵蓋 5 種模型及總計 80 項操作。Ambiq 已進行驗證 heliaCORE 針對一套具業界代表性的 40 多個模型及 963 個運算子實例, 約 12 是業界基準測試容量的 倍。此差距反映了基準測試所涵蓋的內容與實際產品所能執行的內容之間的差異。

  • 一款產品 若僅針對 僅針對標準基準測試進行優化的產品,若這些基準測試 未能 能反映實際運作的複雜性,那麼在真實環境中仍可能表現不佳。 Ambiq 的 內部效能分析發現,即使主要核心已完成全面優化,圍繞主要運算的操作——包括填充、激活、歸約及重塑——在實際工作負載中仍會消耗大量處理時間。 heliaCORE 針對的是整個處理管線,而不僅僅是基準測試所測量的部分。

  • heliaCORE 是基礎,一個經過優化的核心層,所有其他組件皆建構於此之上。 heliaRT 是運行時路徑,透過 heliaCORE 在底層運作,於裝置端執行 AI 推論的執行路徑。 heliaAOT 是預編譯路徑,在程式碼發布前便將效率預先整合其中——同樣由 heliaCORE. 試著想想 heliaCORE 作為引擎,以及 heliaRT 以及 heliaAOT 作為兩種 不同的方式 來驅動它。

  • 是的。 heliaCORE 同時包含針對當前世代 Apollo SoC 的 MVE 加速功能,以及針對前一代裝置的 DSP 加速功能。兩代產品皆未被遺漏。

  • 兩者皆是。 heliaCORE 該系統建構於 Arm 的 CMSIS-NN 之上——這是一個開放的產業標準生態系統——並完整保留其 API、文件及授權條款。Apollo 專屬的內核調校、擴展的運算子支援範圍以及平台整合,皆是 Ambiq 在此開放基礎之上所新增的功能層。

  • heliaCORE Ambiq 的客戶與合作夥伴現已可使用此服務。相關文件及存取方式請透過 Ambiq 的 GitHub 頁面 以及在 www.ambiq.com/AI/heliaCORE

準備下載