IT用語帳

打切り

Truncation

うちきり

級数展開や反復計算において、有限回で計算を終了することで生じる近似。打切り誤差は理論上の真の値と有限回計算による近似値との差であり、計算回数を増やすことで小さくできる。
基礎理論 > 離散数学

関連キーワードの用語

AP桁落ち

浮動小数点演算において、ほぼ等しい2つの数の減算で有効桁数が大幅に減少する現象。上位桁が相殺されて0になり、残った下位桁の精度が低いために生じる。対策として式の変形やより高精度な型の使用がある。

AP情報落ち

浮動小数点演算において、絶対値の大きく異なる2つの数の加減算で小さい方の数の有効桁が失われる現象。指数部を合わせる過程で小さい数の下位桁が切り捨てられる。対策として加算順序の工夫が有効。

APオーバーフロー

演算結果がデータ型で表現できる最大値を超えること。固定小数点では桁あふれ、浮動小数点では指数部が上限を超えた場合に発生する。プログラムの異常動作やセキュリティ脆弱性の原因となるため検出・対策が必須。

APアンダーフロー

浮動小数点演算において、結果が表現可能な最小の正の数より0に近くなる現象。指数部が下限を下回った場合に発生し、結果は0または非正規化数(デノーマル数)として扱われる。

AP丸め

数値の有効桁数を減らす際に、切り捨てられる桁の値に応じて残る桁の値を調整する操作。四捨五入、切上げ、切捨て、銀行家の丸め(偶数丸め)などの方式がある。IEEE 754では最近接偶数への丸めが既定。

FE桁落ち

浮動小数点演算において、ほぼ等しい2つの数の減算を行った際に、有効桁数が大幅に減少する現象。結果の上位桁が相殺されて0になり、残った下位桁の精度が低いために生じる。