NPU（Neural Processing Unit）

ニューラルネットワークの推論処理に特化したプロセッサ。行列演算やテンソル演算を効率的に実行するアーキテクチャを持つ。SoCに統合されるケースが増えており、エッジデバイスでのリアルタイムAI処理を実現する。

カメラ映像の処理や画像認識などのコンピュータビジョンの処理を、低消費電力で実行するよう特化したプロセッサ。監視カメラ、ドローン、ロボットなどの機器に組み込まれ、映像をクラウドに送らずに端末側で物体検出などの推論を行うエッジAIに使われる。

多数の演算コアで大量のデータを並列に処理するプロセッサ。本来は画像の描画処理用だが、行列演算が得意なため、深層学習の学習・推論や科学技術計算にも広く使われる（GPGPU）。生成AIの開発を支える主要な計算資源となっている。

AIの学習や推論に必要な大量の行列演算を高速かつ低消費電力で実行するよう設計された半導体チップの総称。GPUのほか、TPU、NPUなどの専用プロセッサ、FPGAやASICによる専用回路があり、データセンター向けと端末向けで求められる性能が異なる。

Googleが開発した、機械学習のテンソル（多次元配列）演算に特化したプロセッサ（ASIC）。大量の積和演算を並列に行う構造（シストリックアレイ）を持ち、深層学習の学習と推論を高い電力効率で処理する。主にGoogleのクラウドサービスを通じて提供される。

モデルの軽量化の手法の一つで、ニューラルネットワークの中で推論への寄与が小さい重みやノード、層などを取り除くこと。パラメータ数と計算量を減らして、推論の高速化やメモリ使用量の削減を図る。取り除いた後に再学習して精度の低下を抑えることが多い。

モデルの軽量化の手法の一つで、ニューラルネットワークの重みや計算に使う数値を、32ビットの浮動小数点数から8ビットや4ビットの整数などの少ないビット数で表すこと。メモリ使用量と計算量を大きく減らせ、大規模言語モデルを端末で動かす際などに使われるが、精度がやや低下することがある。