FE基礎理論 · 離散数学
情報落ち
Loss of Trailing Digits
じょうほうおち
共有:
Related
他の資格での定義
Past Exams
過去問での出題
過去問で 1 回出題(応用情報技術者試験 1)
出典: 独立行政法人情報処理推進機構(IPA)の過去問題。問題文は IPA のサイトの PDF で確認できます。用語名で照合しているため、関係の薄い問題が含まれることがあります。
Related
関連キーワードの用語
FE桁落ち
浮動小数点演算において、ほぼ等しい2つの数の減算を行った際に、有効桁数が大幅に減少する現象。結果の上位桁が相殺されて0になり、残った下位桁の精度が低いために生じる。
FEオーバーフロー
演算結果がデータ型で表現できる最大値を超えること。固定小数点演算では桁あふれ、浮動小数点演算では指数部が表現範囲を超えた場合に発生する。結果が不正確になるため対策が必要。
FEアンダーフロー
浮動小数点演算において、演算結果が表現できる最小値よりも0に近くなること。指数部が表現範囲の下限を下回った場合に発生し、結果は0または非正規化数として扱われる。
AP丸め
数値の有効桁数を減らす際に、切り捨てられる桁の値に応じて残る桁の値を調整する操作。四捨五入、切上げ、切捨て、銀行家の丸め(偶数丸め)などの方式がある。IEEE 754では最近接偶数への丸めが既定。
AP打切り
級数展開や反復計算において、有限回で計算を終了することで生じる近似。打切り誤差は理論上の真の値と有限回計算による近似値との差であり、計算回数を増やすことで小さくできる。
FE論理シフト
ビット列を左または右にずらし、空いたビットに0を埋める操作。符号ビットを考慮せず、単純にビットパターンを移動する。左に1ビットシフトすると値は2倍、右に1ビットシフトすると値は1/2になる(符号なし整数の場合)。
