桁落ち
Cancellation
けたおち
Related
他の資格での定義
Past Exams
過去問での出題
過去問で 5 回出題(応用情報技術者試験 3・基本情報技術者試験 1・高度試験 午前Ⅰ 1)。うち 1 回は用語そのものを問う問題です。
出典: 独立行政法人情報処理推進機構(IPA)の過去問題。問題文は IPA のサイトの PDF で確認できます。「用語を問う問題」は、この用語の説明や特徴そのものを問う問題です。用語名で照合しているため、関係の薄い問題が含まれることがあります。
Related
関連キーワードの用語
浮動小数点演算において、絶対値の大きく異なる2つの数の加減算を行った際に、小さい方の数の有効桁が失われる現象。指数部を合わせる過程で小さい数の下位桁が切り捨てられるために発生する。
演算結果がデータ型で表現できる最大値を超えること。固定小数点演算では桁あふれ、浮動小数点演算では指数部が表現範囲を超えた場合に発生する。結果が不正確になるため対策が必要。
浮動小数点演算において、演算結果が表現できる最小値よりも0に近くなること。指数部が表現範囲の下限を下回った場合に発生し、結果は0または非正規化数として扱われる。
数値の有効桁数を減らす際に、切り捨てられる桁の値に応じて残る桁の値を調整する操作。四捨五入、切上げ、切捨て、銀行家の丸め(偶数丸め)などの方式がある。IEEE 754では最近接偶数への丸めが既定。
級数展開や反復計算において、有限回で計算を終了することで生じる近似。打切り誤差は理論上の真の値と有限回計算による近似値との差であり、計算回数を増やすことで小さくできる。
ビット列を左または右にずらし、空いたビットに0を埋める操作。符号ビットを考慮せず、単純にビットパターンを移動する。左に1ビットシフトすると値は2倍、右に1ビットシフトすると値は1/2になる(符号なし整数の場合)。
