FE基礎理論 · 応用数学
絶対誤差
Absolute Error
ぜったいごさ
共有:
Related
関連キーワードの用語
FE丸め誤差
数値を有限桁で表現する際に、表現できない桁を四捨五入や切り捨てなどで処理することで生じる誤差。浮動小数点演算で必ず考慮すべき問題であり、演算の順序によって蓄積量が変わる。
FE打切り誤差
無限級数や反復計算を有限回で打ち切ることによって生じる誤差。計算量と精度のトレードオフがあり、打ち切りの基準(収束判定条件)の設定が重要。
FE相対誤差
絶対誤差を真の値で割った値。誤差の大きさを割合で表すため、桁の異なる測定値どうしの精度を比較できる。浮動小数点演算の精度は、一般に相対誤差で評価される。
FE桁落ち
浮動小数点演算において、ほぼ等しい2つの数の減算を行った際に、有効桁数が大幅に減少する現象。結果の上位桁が相殺されて0になり、残った下位桁の精度が低いために生じる。
FE情報落ち
浮動小数点演算において、絶対値の大きく異なる2つの数の加減算を行った際に、小さい方の数の有効桁が失われる現象。指数部を合わせる過程で小さい数の下位桁が切り捨てられるために発生する。
FEオーバーフロー
演算結果がデータ型で表現できる最大値を超えること。固定小数点演算では桁あふれ、浮動小数点演算では指数部が表現範囲を超えた場合に発生する。結果が不正確になるため対策が必要。
