A-1アルゴリズム・プログラミング · 情報理論
倍精度
Double Precision
ばいせいど
IEEE 754で定める64ビットの浮動小数点数の形式。符号部1ビット、指数部11ビット、仮数部52ビットで、10進数でおよそ15〜16桁の精度を持ち、科学技術計算などの標準として使われる。
共有:
Related
関連キーワードの用語
A-1単精度
IEEE 754で定める32ビットの浮動小数点数の形式。符号部1ビット、指数部8ビット、仮数部23ビットで、10進数でおよそ7桁の精度を持つ。
A-1半精度
IEEE 754で定める16ビットの浮動小数点数の形式。符号部1ビット、指数部5ビット、仮数部10ビットで、精度と表せる範囲は小さいが、メモリと計算量を節約できるため、深層学習の学習や推論、画像処理で使われる。
A-1IEEE 754
IEEEが定めた、浮動小数点数の表現形式と演算の国際的な標準規格。半精度・単精度・倍精度などの形式、丸めの方法、無限大や非数(NaN)などの特殊な値の表し方を定め、多くのCPUやプログラミング言語が採用している。
A-1固定小数点数
小数点の位置をあらかじめ決めた位置に固定して数値を表す形式。整数や、金額のように小数点以下の桁数が決まった数を誤差なく扱えるが、表せる値の範囲は浮動小数点数より狭い。
A-1浮動小数点数
数値を符号部、指数部、仮数部に分け、「仮数×基数の指数乗」の形で表す形式。小さな値から大きな値まで広い範囲を表せるが、有効桁数が限られるため、丸め誤差、桁落ち、情報落ちなどの誤差が生じる。IEEE 754で形式が標準化されている。
FE仮数
浮動小数点数で有効数字を表す部分。浮動小数点数は「符号×仮数×基数の指数乗」の形で数値を表すため、仮数の桁数が多いほど表現できる精度が高くなる。単精度より倍精度のほうが仮数部が長い。
