ヘリアAOT
超高速ニューラル推論

HeliaAOTは、LiteRTモデルを高度に最適化されたスタンドアロンC推論モジュールに変換する先行コンパイラで、ambiqの超低消費電力SoC向けにカスタマイズされています。HeliaAOTは、実行時のオーバーヘッドがゼロで、コンパクトで効率的、かつ人間が読めるCコードを生成し、エッジでの電光石火の速さと電力効率に優れたAIを実現します。
HeliaAOTは、LiteRTモデルを高度に最適化されたスタンドアロンC推論モジュールに変換する先行コンパイラで、ambiqの超低消費電力SoC向けにカスタマイズされています。HeliaAOTは、実行時のオーバーヘッドがゼロで、コンパクトで効率的、かつ人間が読めるCコードを生成し、エッジでの電光石火の速さと電力効率に優れたAIを実現します。
HeliaRTレベルの推論速度を小さなパッケージで実現-HeliaAOTはMLPerf Tinyモデルのメモリフットプリントを最大2.6倍削減します。