FE基礎理論 · 応用数学

丸め誤差

Rounding Error

まるめごさ

数値を有限桁で表現する際に、表現できない桁を四捨五入や切り捨てなどで処理することで生じる誤差。浮動小数点演算で必ず考慮すべき問題であり、演算の順序によって蓄積量が変わる。

共有:

Past Exams

過去問での出題

過去問で 2 回出題（基本情報技術者試験 2）。うち 1 回は用語そのものを問う問題です。

出典: 独立行政法人情報処理推進機構（IPA）の過去問題。問題文は IPA のサイトの PDF で確認できます。「用語を問う問題」は、この用語の説明や特徴そのものを問う問題です。「選択肢」は、問題文ではなく選択肢に出たものです。用語名で照合しているため、関係の薄い問題が含まれることがあります。

無限級数や反復計算を有限回で打ち切ることによって生じる誤差。計算量と精度のトレードオフがあり、打ち切りの基準（収束判定条件）の設定が重要。

真の値と近似値の差の絶対値。単位が元の値と同じなので大きさを直感的につかめるが、値そのものが大きい場合に誤差が大きく見える。相対的な精度を比べるときは相対誤差を使う。

絶対誤差を真の値で割った値。誤差の大きさを割合で表すため、桁の異なる測定値どうしの精度を比較できる。浮動小数点演算の精度は、一般に相対誤差で評価される。

浮動小数点演算において、ほぼ等しい2つの数の減算を行った際に、有効桁数が大幅に減少する現象。結果の上位桁が相殺されて0になり、残った下位桁の精度が低いために生じる。

浮動小数点演算において、絶対値の大きく異なる2つの数の加減算を行った際に、小さい方の数の有効桁が失われる現象。指数部を合わせる過程で小さい数の下位桁が切り捨てられるために発生する。

演算結果がデータ型で表現できる最大値を超えること。固定小数点演算では桁あふれ、浮動小数点演算では指数部が表現範囲を超えた場合に発生する。結果が不正確になるため対策が必要。