打切り誤差

数値を有限桁で表現する際に、表現できない桁を四捨五入や切り捨てなどで処理することで生じる誤差。浮動小数点演算で必ず考慮すべき問題であり、演算の順序によって蓄積量が変わる。

浮動小数点演算において、ほぼ等しい2つの数の減算を行った際に、有効桁数が大幅に減少する現象。結果の上位桁が相殺されて0になり、残った下位桁の精度が低いために生じる。

浮動小数点演算において、絶対値の大きく異なる2つの数の加減算を行った際に、小さい方の数の有効桁が失われる現象。指数部を合わせる過程で小さい数の下位桁が切り捨てられるために発生する。

演算結果がデータ型で表現できる最大値を超えること。固定小数点演算では桁あふれ、浮動小数点演算では指数部が表現範囲を超えた場合に発生する。結果が不正確になるため対策が必要。

浮動小数点演算において、演算結果が表現できる最小値よりも0に近くなること。指数部が表現範囲の下限を下回った場合に発生し、結果は0または非正規化数として扱われる。

方程式f(x)=0の近似解を反復的に求める数値解析手法。現在の近似値における接線のx切片を次の近似値とする操作を繰り返す。収束が速いが、初期値の選び方によっては収束しない場合がある。