heliaCORE – エッジAI向けに最適化されたカーネル

ArmのCMSIS-NNのような既存のツールは、確固たる業界標準の基盤を提供していますが、それらは 当初から Ambiq向けに Ambiqの 特定の半導体チップや、Ambiqの顧客が 実際に提供している。 heliaCORE は、CMSIS-NNを置き換えるのではなく、その上に構築されており、エンジニアがすでに慣れ親しんでいる APIやドキュメントを維持しつつ、汎用ツールにはないApollo固有のチューニングや対応範囲を追加しています。

Ambiqのシリコン上で実施される新しい Ambiqのシリコン上で展開されるエッジAIプロジェクトでは、従来、チームが手作業で組み立て、統合、および 最適化 必要があり、実際の製品開発に着手できるまでに数ヶ月を要することがよくありました。 heliaCORE は、その基盤をあらかじめ統合・最適化済みの状態で提供するため、チームは すぐに すぐに製品開発に着手できます。 再構築する 構築済みのインフラを再構築する手間を省き、すぐに

MLPerf Tinyは、エッジAI向けの業界標準ベンチマークです AI, このテストでは、5つのモデルと計80の操作が検証されています。Ambiqによる検証が行われました。 heliaCORE 40以上のモデルと963のオペレーターインスタンスからなる、実環境を代表するスイートと比較して、 およそ12 業界ベンチマークの処理量の○倍。この差は、ベンチマークでテストされる内容と、実際の製品で実行可能な内容との違いを反映している。

最適化された が 標準的なベンチマークに対してのみ最適化された製品であっても、それらのベンチマークが が 実稼働環境の複雑さを反映していない場合、実際の運用環境では依然としてパフォーマンスが低下する可能性があります。 Ambiqの 社内のプロファイリング調査によると、主要なカーネルが完全に最適化された後でも、実際のワークロードでは、主要な計算に付随する操作（パディング、活性化、リダクション、リシェイプなど）がかなりの処理時間を消費していることが判明しました。 heliaCORE は、ベンチマークで測定される部分だけでなく、パイプライン全体に対応しています。

heliaCORE は基盤であり、他のすべての要素が構築される最適化されたカーネル層です。 heliaRT は、 heliaCORE を利用して、デバイス上でAI推論を実行するランタイムパスです。 heliaAOT は、出荷前にコードに効率性を組み込んでおく事前コンパイル（AOT）パスであり、これも heliaCORE. 考えてみてください heliaCORE をエンジンとして、そして heliaRT および heliaAOT を2つの 異なる方法 として

はい。 heliaCORE 現行世代のApollo SoC向けのMVEアクセラレーションと、前世代のデバイス向けのDSPアクセラレーションの両方を備えています。どちらの世代も取り残されることはありません。

両方です。 heliaCORE ArmのCMSIS-NN（オープンで業界標準のエコシステム）を基盤としており、そのAPI、ドキュメント、ライセンス条項を完全に継承しています。Apollo独自のカーネルチューニング、オペレーターの対応範囲の拡大、およびプラットフォームとの統合は、このオープンな基盤の上にAmbiqが追加した機能です。

heliaCORE Ambiqのお客様およびパートナーの皆様は、本サービスをご利用いただけます。ドキュメントおよびアクセス方法については、以下からご確認いただけます。 AmbiqのGitHubページ および www.ambiq.com/AI/heliaCORE。