FE基礎理論 · 離散数学
情報落ち
Loss of Trailing Digits
じょうほうおち
共有:
Related
他の資格での定義
Related
関連キーワードの用語
FE桁落ち
浮動小数点演算において、ほぼ等しい2つの数の減算を行った際に、有効桁数が大幅に減少する現象。結果の上位桁が相殺されて0になり、残った下位桁の精度が低いために生じる。
FEオーバーフロー
演算結果がデータ型で表現できる最大値を超えること。固定小数点演算では桁あふれ、浮動小数点演算では指数部が表現範囲を超えた場合に発生する。結果が不正確になるため対策が必要。
FEアンダーフロー
浮動小数点演算において、演算結果が表現できる最小値よりも0に近くなること。指数部が表現範囲の下限を下回った場合に発生し、結果は0または非正規化数として扱われる。
AP桁落ち
浮動小数点演算において、ほぼ等しい2つの数の減算で有効桁数が大幅に減少する現象。上位桁が相殺されて0になり、残った下位桁の精度が低いために生じる。対策として式の変形やより高精度な型の使用がある。
APオーバーフロー
演算結果がデータ型で表現できる最大値を超えること。固定小数点では桁あふれ、浮動小数点では指数部が上限を超えた場合に発生する。プログラムの異常動作やセキュリティ脆弱性の原因となるため検出・対策が必須。
APアンダーフロー
浮動小数点演算において、結果が表現可能な最小の正の数より0に近くなる現象。指数部が下限を下回った場合に発生し、結果は0または非正規化数(デノーマル数)として扱われる。
