A-1Newアルゴリズム・プログラミング · 情報理論

IEEE 754

あいとりぷるいー754

IEEEが定めた、浮動小数点数の表現形式と演算の国際的な標準規格。半精度・単精度・倍精度などの形式、丸めの方法、無限大や非数（NaN）などの特殊な値の表し方を定め、多くのCPUやプログラミング言語が採用している。

共有:

関連キーワードの用語

IEEE 754で定める32ビットの浮動小数点数の形式。符号部1ビット、指数部8ビット、仮数部23ビットで、10進数でおよそ7桁の精度を持つ。

IEEE 754で定める64ビットの浮動小数点数の形式。符号部1ビット、指数部11ビット、仮数部52ビットで、10進数でおよそ15〜16桁の精度を持ち、科学技術計算などの標準として使われる。

小数点の位置をあらかじめ決めた位置に固定して数値を表す形式。整数や、金額のように小数点以下の桁数が決まった数を誤差なく扱えるが、表せる値の範囲は浮動小数点数より狭い。

IEEE 754で定める16ビットの浮動小数点数の形式。符号部1ビット、指数部5ビット、仮数部10ビットで、精度と表せる範囲は小さいが、メモリと計算量を節約できるため、深層学習の学習や推論、画像処理で使われる。

浮動小数点数で有効数字を表す部分。浮動小数点数は「符号×仮数×基数の指数乗」の形で数値を表すため、仮数の桁数が多いほど表現できる精度が高くなる。単精度より倍精度のほうが仮数部が長い。

浮動小数点数で小数点の位置を表す部分。基数を何乗するかを示し、指数部の桁数が多いほど表現できる数値の範囲が広くなる。桁数を増やしても精度は上がらず、精度を決めるのは仮数部である。