半精度
Half Precision
はんせいど
IEEE 754で定める16ビットの浮動小数点数の形式。符号部1ビット、指数部5ビット、仮数部10ビットで、精度と表せる範囲は小さいが、メモリと計算量を節約できるため、深層学習の学習や推論、画像処理で使われる。
Related
関連キーワードの用語
IEEE 754で定める32ビットの浮動小数点数の形式。符号部1ビット、指数部8ビット、仮数部23ビットで、10進数でおよそ7桁の精度を持つ。
IEEE 754で定める64ビットの浮動小数点数の形式。符号部1ビット、指数部11ビット、仮数部52ビットで、10進数でおよそ15〜16桁の精度を持ち、科学技術計算などの標準として使われる。
多数の演算コアで大量のデータを並列に処理するプロセッサ。本来は画像の描画処理用だが、行列演算が得意なため、深層学習の学習・推論や科学技術計算にも広く使われる（GPGPU）。生成AIの開発を支える主要な計算資源となっている。
Googleが開発した、機械学習のテンソル（多次元配列）演算に特化したプロセッサ（ASIC）。大量の積和演算を並列に行う構造（シストリックアレイ）を持ち、深層学習の学習と推論を高い電力効率で処理する。主にGoogleのクラウドサービスを通じて提供される。
多数の層を重ねたニューラルネットワークを用いる機械学習の手法。データから判断に役立つ特徴を、人が設計しなくても階層的に自動で獲得できる。大量のデータとGPUなどの計算資源を使って、画像認識、音声認識、自然言語処理、生成AIで高い性能を実現している。
データの加工・分析や、機械学習モデルの構築、学習、推論を効率よく行うためのソフトウェアの枠組みやライブラリ。データ処理のpandas、機械学習のscikit-learn、深層学習のPyTorchやTensorFlowなどがあり、GPUを使った高速な計算や学習済みモデルの再利用を支援する。