打切り誤差

数値を有限桁で表現する際に、表現できない桁を四捨五入や切り捨てなどで処理することで生じる誤差。浮動小数点演算で必ず考慮すべき問題であり、演算の順序によって蓄積量が変わる。

真の値と近似値の差の絶対値。単位が元の値と同じなので大きさを直感的につかめるが、値そのものが大きい場合に誤差が大きく見える。相対的な精度を比べるときは相対誤差を使う。

絶対誤差を真の値で割った値。誤差の大きさを割合で表すため、桁の異なる測定値どうしの精度を比較できる。浮動小数点演算の精度は、一般に相対誤差で評価される。

浮動小数点演算において、ほぼ等しい2つの数の減算を行った際に、有効桁数が大幅に減少する現象。結果の上位桁が相殺されて0になり、残った下位桁の精度が低いために生じる。

浮動小数点演算において、絶対値の大きく異なる2つの数の加減算を行った際に、小さい方の数の有効桁が失われる現象。指数部を合わせる過程で小さい数の下位桁が切り捨てられるために発生する。

演算結果がデータ型で表現できる最大値を超えること。固定小数点演算では桁あふれ、浮動小数点演算では指数部が表現範囲を超えた場合に発生する。結果が不正確になるため対策が必要。