AIチップ
AI Chip
えーあいちっぷ
AIの学習や推論に必要な大量の行列演算を高速かつ低消費電力で実行するよう設計された半導体チップの総称。GPUのほか、TPU、NPUなどの専用プロセッサ、FPGAやASICによる専用回路があり、データセンター向けと端末向けで求められる性能が異なる。
Related
関連キーワードの用語
AIの推論処理を、クラウドではなくカメラ、スマートフォン、産業機器などの端末側やその近くで実行する方式。応答が速く、通信が途切れても動作でき、映像などの生データを外部に送らずに済む。端末の計算資源が限られるため、モデルの軽量化やNPUなどの専用チップが用いられる。
ニューラルネットワークの推論に必要な行列演算や積和演算を、低消費電力で高速に実行するよう設計されたプロセッサ。スマートフォンやパソコンのSoCに組み込まれることが多く、画像認識や音声処理、生成AIなどを端末側で実行するエッジAIを支える。
Googleが開発した、機械学習のテンソル(多次元配列)演算に特化したプロセッサ(ASIC)。大量の積和演算を並列に行う構造(シストリックアレイ)を持ち、深層学習の学習と推論を高い電力効率で処理する。主にGoogleのクラウドサービスを通じて提供される。
1つのチップに数千から数百万個以上の素子を集積したIC。CPUやメモリ、SoCなど現在の主要な半導体はLSIであり、用途を限定した専用のLSIをASIC、利用者が回路を書き換えられるものをFPGAという。
論理演算や制御などのデータ処理を行う半導体。CPUやGPUなどのプロセッサ、特定用途向けのASIC、回路を書き換えられるFPGA、システムの機能を1チップにまとめたSoCなどがある。
製造後に利用者が回路の構成をプログラムで書き換えられる集積回路。ハードウェア記述言語で設計した論理回路を書き込み、試作や少量生産、仕様が変わりやすい用途、AIの推論の高速化などに使う。ASICに比べ開発期間は短いが、単価と消費電力は大きい。
