誤差

真の値と、計算や測定で得られた値との差。コンピュータの数値計算では、有限の桁で表すために生じる丸め誤差、無限の計算を途中で打ち切る打切り誤差、近い値どうしの引き算で有効桁数が減る桁落ち、大きさが大きく異なる値の加減算で小さい方の値が無視される情報落ちがある。

0と1の2つの数字だけで数値を表現する記数法。コンピュータ内部では全てのデータが2進数で処理される。各桁は2のべき乗の重みを持ち、10進数や16進数との相互変換が重要。

ある基数（n進数）で表された数値を別の基数の表現に変換すること。整数部は基数で繰り返し割り、小数部は基数を繰り返し掛けて変換する。2進数・8進数・10進数・16進数間の変換が頻出。

小数点の位置を固定して数値を表現する方式。整数の表現に主に使われ、演算が高速だが表現範囲が限られる。負の数は2の補数で表現し、符号ビットを含めたビット列操作が重要。

IEEE 754で定義された32ビットの浮動小数点数形式。符号1ビット、指数部8ビット、仮数部23ビットで構成される。指数部にはバイアス値127が加算され、正規化された仮数部の最上位ビット1は省略（ケチ表現）される。

IEEE 754で定義された64ビットの浮動小数点数形式。符号1ビット、指数部11ビット、仮数部52ビットで構成され、単精度より広い範囲と高い精度で数値を表現できる。科学技術計算で広く使用。

ある数を基数のべき乗から引いた値。2の補数はビットを反転して1を加えることで求められ、加算回路だけで減算を実現できる。nビットの2の補数表現では-2^(n-1)から2^(n-1)-1までの整数を表現可能。