シンプルなセンサーベースのモノのインターネット (IoT) デバイスの設計は難しくありませんが、エッジ機械学習 (ML) 処理機能を備えた IoT デバイスの構築はまったく別の問題です。 NXP Semiconductors が発売した専用プロセッサ シリーズ、開発ボード、および付属ソフトウェアは、機能、パフォーマンス、開発における主要な課題を解決することを目的としており、複雑なエッジ人工知能 (AI) 機能を産業および IoT アプリケーションに迅速に展開するのに役立ちます。
設計者は、クラウド リソースに依存せずに低電力デバイスで ML 推論を実行できるエッジ AI ソリューションの利用を開始しています。ウェイクアップ ワード検出、センサー データ パターン分析、基本的な物体検出などの機能は、通常、ML モデル (モデル最適化ツールとフレームワークを使用して構築された) を実行するエネルギー効率の高いプロセッサーによって処理できます。ただし、より複雑な問題、特にリアルタイムまたはほぼリアルタイムの応答を必要とする問題を処理するためにプロセッサ リソースを拡張しようとすると、ボトルネックが発生します。
マルチコア プロセッサが ML 推論を大幅に高速化する仕組み
NXP Semiconductors は、i.MX 93 シリーズ アプリケーション プロセッサを使用して、これらの新たなリアルタイム エッジ AI 設計の機能およびパフォーマンスの課題に簡単に対処できます (図 1)。
図 1: i.MX 93 アプリケーション プロセッサは、処理リソース、セキュリティ システム、メモリ、あらゆる種類のクロック、タイマー、接続オプション、インターフェイスを統合し、エッジ AI 設計の基盤を築きます。 (画像出典: NXP Semiconductors)
このプロセッサ シリーズは、マルチメディア、ストレージ、インターフェイス、接続オプションなどの豊富な機能を統合し、目を引く処理リソースを組み合わせています。
Linux ベースのアプリケーション処理タスク用の最大 2 つの高性能 Arm Cortex-A55 アプリケーション プロセッサ コア
低遅延リアルタイム制御処理のための超低電力 Arm Cortex-M33 プラットフォーム
ML 推論を効率的に実行するための Arm Ethos-U65 microNPU ニューラル プロセッシング ユニット (NPU)
NXP の統合された EdgeLock Secure Enclave (ESE) は、セキュア ブートおよびキー管理、リアルタイム暗号化、およびエッジ アプリケーションの保護に必要なその他の機能のためのルート オブ トラストを提供します。
これらのプロセッサの機能を活用することで、大規模なエッジ AI アプリケーションを管理しやすい複数の部分に分割できます。NPU が高密度ニューラル ネットワーク アルゴリズムの計算タスクを引き継ぎ、Cortex-A55 コアの負荷を軽減し、実行中のアプリケーション コード リソースのプリエンプションを回避します。同時に、Cortex-M33 コアは引き続きセンサー データの取得やプロセス制御などの低遅延タスクの処理に重点を置き、組み込み ESE がプロセス全体を通じてシステム セキュリティ、ソフトウェア コード、重要なデータを保護します。以下では、Cortex-A55 コアから機械学習推論をオフロードする NPU の機能を紹介します。これは、ほぼリアルタイムの応答性の高いエッジ AI アプリケーションを実現するための重要なサポートです。
ハードウェア開発ボードとソフトウェアがアプリケーション開発を加速する方法
プロセッサーの機能とパフォーマンスは重要ですが、エッジ AI アプリケーションの効率的な開発は、プロセッサーの特性を迅速に把握し、効果的なソフトウェアを迅速に構築する能力にさらに依存します。 NXP の FRDM-IMX93 開発ボード (図 2) は、付属のソフトウェア開発リソースと組み合わせることで、アプリケーションの作成を開始するために必要なすべてを提供できます。