前回の記事で、3つの強力な追い風が3つの困難な向かい風にぶつかっていることを説明したが、これはエッジAIにとって何を意味するのだろうか？これだけの逆風が吹いていれば、まともな船乗りなら港にとどまるように言うだろう。トレンドを予測するのは難しいが、私が挑戦してバカを見るリスクを冒すほどではない。
目に見えないAI改良機能
予測1：エッジデバイスの内部機能を微調整する新しい「見えない」モデルが普及する。
上述した制約を考えると、AIがエッジでできることは、単純な（しかし賢い）音声認識、音声や画像の分類、アクティビティや健康状態のモニタリング、産業用センサーのモニタリングなど、投資を促すほど普及しているものはほんの一握りだ。
エンドユーザーには部分的にしか見えないが、AIができることは他にもたくさんある。例えば AIは、あなたが今いる部屋のタイプを検出し、それを使って通話中のノイズキャンセリングをより効果的に調整することができる。T 発信者は、AIが関与していることを知らなくても、音質の良い通話に気づくだけだ。このような「物理学に近い」モデルの多くは、膨大なデータセットを必要としない。その代わりに、シミュレーション、強化学習、ゼロショット学習や数ショット学習などのテクニックを使ってモデルを訓練することができる。
AIモデルの改良が進む
予測2：既存のモデルは改良と機能追加を続ける。
前述したように、現在のほとんどのモデルは、センサーから推測できる情報について、多くのことを置き去りにしている。例えば、歩き方からその人の健康状態について多くのことを知ることができる。どの程度バランスが取れているか、どのような歩き方を好むかなどだ。データセットがないため、ほとんどのモデルはこれを試みていないが、データは存在する。スマートウォッチを装着しているすべての人が潜在的なデータソースであり、時計メーカーはそのごく一部のデータを収集するだけで、素晴らしいデータセットを構築することができる。データをボランティアで提供してくれる人を見つけることが問題であり、現在いくつかの大手メーカーがそうしている。
エッジAIとは何か？
一般的に、コンシューマー機器、産業機器、セキュリティ機器でユーザーがAIと対話する場合、AI処理のごく一部だけがローカルで行われ、「重い仕事」はクラウドに委ねられる。これは理想的とは言えない。なぜなら、すべてのデータを往復して送信することは、エネルギーを消費し、待ち時間を増やし、潜在的にプライベートなデータを公開するからだ。
エッジAIは、こうした問題を解決するものだ。エッジAIとは、クラウドと常時通信する必要がなく、組み込みシステム上で完全にローカルに実行されるAIのことで、電力と時間を節約しながら、プライバシーとセキュリティを向上させる。Ambiqの低消費電力は、バッテリー寿命を損なうことなく、より多くのAIをローカルで実行できることを意味する。
エッジAIを有用性と価値の新たなレベルへと押し上げる追い風については、これまでも何度か書いてきたが、以下でも改めて触れてみたい。しかし、エッジAIが経験している逆風についても理解しておく必要がある。潜在的な脅威と機会が組み合わさることで、エッジAIは混乱した非直線的な状態に置かれ、ある分野では多くの進歩が見られるが、別の分野ではあまり進展していない。
より効率的なAI導入
予測3：2023年には、高効率のAIランタイムが成熟し、採用される。
AIは、モデル定義を理解し、デバイス上で実行するコードの一部である「ランタイム」を介してデバイス上で実行される。最も一般的なランタイムは「Tensorflow Lite for Microcontrollers」（TLFM）である。TLFMは、質問やサポートのために利用できる開発者の大規模なエコシステムがあり、多くのツールがその周りに構築されているため、デバイス上でモデルを立ち上げて実行するのに最適な方法である。残念なことに、優れたコーダーが手作業で作成できるもの（Ambiq®が音声認識モデルコレクトNNSPで行ったように）と比べると、TLFMはあまり効率的ではありません。TLFMはより多くのメモリと計算を使用するため、使用量、待ち時間、メモリフットプリントが大きくなります。しかし、AIモデルを手作業でコーディングするのは難しいため、開発者はTFLMに固執する傾向があります。
それは、AIモデルをC言語などの「コンパイル可能な」言語に変換するツールだ。これらのツールは、効率的なランタイムと組み合わせることで、TFLMよりも何倍も速くモデルを実行することができる。このようなソリューションはいくつかあるが、TFLMほど広く採用され、幅広い支持を得ているものはない。
結論
エッジ製品にAI機能を追加することは、トレードオフの練習になります。AIはリソースを大量に消費することで有名で、CPUサイクル、メモリ、電力を大量に消費します。Ambiqではエネルギー効率にこだわっており、その結果、CPUベースの推論ベンチマークで業界トップクラスの電力効率を実現しています。当社では、あらゆるエッジデバイスのAI要件に対して精度、パフォーマンス、消費電力のバランスをとりながら、最も最適な結果を提供するために、ハードウェアとソフトウェアを意図的に連動させて構築しています。
Ambiqは、超低消費電力のイノベーションを推進することで、世界的に最も注目される人工知能（AI）技術企業の1つに成長した。2022年7月、Ambiqは ニューラルスポットを発表し、バッテリーの電力制約内で電子機器の人工知能を実現しました。従来は消費電力の問題で不可能だったIoTエッジデバイスの高性能AI機能（音声認識、アクティビティ検出、リアルタイム分析など）が可能になりました。
neuralSPOTには、最新のApollo4 Plusや Blue PlusSoCなど、AmbiqのプラットフォームにAIモデルを搭載するために必要なすべてが含まれている。SDKは、センサーと通信するためのライブラリ、SoC周辺機器の管理、電力とメモリーの制御設定、ノートパソコンやPCからAIモデルを簡単にデバッグするためのツール、そしてすべてを結びつけるサンプルで構成されています。
モデルはAIの心臓部であるため、実用的なエッジAIを実現するために、Ambiqは以下のモデルも作成しました。 モデルズーは、オープンソースのエッジAIモデル集で、モデルをゼロから開発するために必要なすべてのツールがパッケージ化されています。neuralSPOTには、オーディオ、i2c、USBペリフェラル、電源管理、およびプロセス間通信やメモリ管理などの多数のヘルパー関数用のAmbiq固有の組み込みライブラリが含まれています。データの専門家、AIの専門家、アプリケーションの専門家など、さまざまな役割のAI開発者を支援するシンプルでエレガントなツールが初めて登場した。
詳細については、Ambiq AI – Ambiq Supercharging edge AIをご覧ください。
