エッジAI

クラウドに送らず、機器そのものやその近くでAIの推論を行う方式。通信の遅延がなく、データを外に出さないためプライバシーも守りやすい。処理能力と消費電力の制約が設計上の課題となる。

クラウドに送らず、端末や現場の機器側でAIの推論処理を実行する方式。通信の遅延がなく応答が速い、通信量を抑えられる、映像などの生データを外部に出さずに済むためプライバシー保護に有利、という利点がある。

エッジデバイス上でAI（機械学習モデル）の推論処理を行う技術。クラウドに依存せずリアルタイムの判断が可能で、プライバシー保護やネットワーク帯域の削減にも寄与する。NPU（ニューラルプロセッシングユニット）搭載のSoCが増えている。

AIの推論処理を、クラウドではなくカメラ、スマートフォン、産業機器などの端末側やその近くで実行する方式。応答が速く、通信が途切れても動作でき、映像などの生データを外部に送らずに済む。端末の計算資源が限られるため、モデルの軽量化やNPUなどの専用チップが用いられる。

マイクロコントローラ（数十KB〜数百KBのRAM）上で機械学習モデルの推論を実行する技術。モデルの軽量化（量子化、枝刈り）により、超低消費電力デバイスでの音声認識、画像分類、異常検知などを実現する。TensorFlow Lite for Microcontrollersが代表的なフレームワーク。

ニューラルネットワークモデルのパラメータを32ビット浮動小数点数から8ビット整数などの低精度表現に変換する最適化技術。モデルサイズの削減、推論速度の向上、消費電力の低減を実現する。精度の低下を抑えつつ組込みデバイスへの実装を可能にする。

ニューラルネットワークの推論処理に特化したプロセッサ。行列演算やテンソル演算を効率的に実行するアーキテクチャを持つ。SoCに統合されるケースが増えており、エッジデバイスでのリアルタイムAI処理を実現する。

学習済みの機械学習モデルを使って、入力データに対する予測・分類結果を出力するソフトウェア。組込み向けにはTensorFlow Lite、ONNX Runtime、TensorRTなどがある。ターゲットハードウェアに最適化された推論を高速に実行する。

大規模言語モデル等を用いて、テキスト・画像・音声・プログラムコードなどの新たなコンテンツを自動生成するAI技術。業務効率化に活用される一方、ハルシネーション（事実に基づかない出力）やセキュリティリスク、著作権上の課題がある。

現実世界（フィジカル空間）のデータをセンサで収集し、サイバー空間で分析・シミュレーションした結果を現実世界にフィードバックするシステム。IoT、AI、ビッグデータを統合し、製造、交通、エネルギーなどの分野で社会システムの最適化を実現する。