収束

方程式の解や積分の値などを、式の変形で厳密に求める代わりに、数値計算を繰り返して近似的に求める手法と、その理論。ニュートン法、二分法、数値積分、オイラー法などがあり、計算の過程で生じる丸め誤差や打切り誤差の扱いが重要になる。

方程式などの解を式の変形で厳密に求めることが難しい場合に、計算を繰り返して真の解に近い値を数値的に求める方法の総称。二分法やニュートン法のように近似値を少しずつ改善する反復法が代表的で、許容する誤差の大きさで計算を打ち切る。収束の速さ、収束する条件、誤差の評価が手法を選ぶ観点になる。

方程式 f(x)=0 の解を数値的に求める反復法。ある近似値での接線とx軸との交点を次の近似値とする計算を繰り返し、解に近づける。初期値が適切なら非常に速く収束するが、初期値によっては収束しないことがある。

浮動小数点演算において、ほぼ等しい2つの数の減算を行った際に、有効桁数が大幅に減少する現象。結果の上位桁が相殺されて0になり、残った下位桁の精度が低いために生じる。

浮動小数点演算において、絶対値の大きく異なる2つの数の加減算を行った際に、小さい方の数の有効桁が失われる現象。指数部を合わせる過程で小さい数の下位桁が切り捨てられるために発生する。

演算結果がデータ型で表現できる最大値を超えること。固定小数点演算では桁あふれ、浮動小数点演算では指数部が表現範囲を超えた場合に発生する。結果が不正確になるため対策が必要。