HeliosAOT
超高速ニューラル推論

HeliosAOTは、LiteRTモデルを高度に最適化されたスタンドアロンC推論モジュールに変換する先行コンパイラで、ambiqの超低消費電力SoC向けにカスタマイズされています。HeliosAOTは、実行時のオーバーヘッドがゼロで、コンパクトで効率的、かつ人間が読めるCコードを生成し、エッジでの電光石火の速さと電力効率に優れたAIを実現します。
HeliosAOTは、LiteRTモデルを高度に最適化されたスタンドアロンC推論モジュールに変換する先行コンパイラで、ambiqの超低消費電力SoC向けにカスタマイズされています。HeliosAOTは、実行時のオーバーヘッドがゼロで、コンパクトで効率的、かつ人間が読めるCコードを生成し、エッジでの電光石火の速さと電力効率に優れたAIを実現します。
HeliosRTレベルの推論スピードを小さなパッケージで-HeliosAOTはMLPerf Tinyモデルのメモリフットプリントを最大2.6倍削減します。