丸め

浮動小数点演算において、ほぼ等しい2つの数の減算で有効桁数が大幅に減少する現象。上位桁が相殺されて0になり、残った下位桁の精度が低いために生じる。対策として式の変形やより高精度な型の使用がある。

浮動小数点演算において、絶対値の大きく異なる2つの数の加減算で小さい方の数の有効桁が失われる現象。指数部を合わせる過程で小さい数の下位桁が切り捨てられる。対策として加算順序の工夫が有効。

演算結果がデータ型で表現できる最大値を超えること。固定小数点では桁あふれ、浮動小数点では指数部が上限を超えた場合に発生する。プログラムの異常動作やセキュリティ脆弱性の原因となるため検出・対策が必須。

浮動小数点演算において、結果が表現可能な最小の正の数より0に近くなる現象。指数部が下限を下回った場合に発生し、結果は0または非正規化数（デノーマル数）として扱われる。

級数展開や反復計算において、有限回で計算を終了することで生じる近似。打切り誤差は理論上の真の値と有限回計算による近似値との差であり、計算回数を増やすことで小さくできる。

ビット列を左または右にずらし、空いたビットに0を埋める操作。符号ビットを考慮せず単純にビットパターンを移動する。符号なし整数に対して、左1ビットシフトで2倍、右1ビットシフトで1/2の効果がある。