FE2027アルゴリズム・プログラミング · 情報理論
丸め
Rounding
まるめ
数値を決められた桁数に収めるため、それより下の桁を四捨五入、切上げ、切捨てなどの方法で処理すること。有効桁数に限りがある浮動小数点数の演算では避けられず、丸めによって生じる真の値とのずれを丸め誤差という。
共有:
Related
他の資格での定義
Past Exams
過去問での出題
過去問で 1 回出題(情報セキュリティマネジメント試験 1)
出典: 独立行政法人情報処理推進機構(IPA)の過去問題。問題文は IPA のサイトの PDF で確認できます。用語名で照合しているため、関係の薄い問題が含まれることがあります。
Related
関連キーワードの用語
FE2進数
0と1の2つの数字だけで数値を表現する記数法。コンピュータ内部では全てのデータが2進数で処理される。各桁は2のべき乗の重みを持ち、10進数との相互変換が基本情報技術者試験で頻出。
FE8進数
0から7までの8つの数字で数値を表現する記数法。2進数3桁が8進数1桁に対応するため、2進数の簡略表記として利用される。
FE16進数
0から9とAからFの16種類の記号で数値を表現する記数法。2進数4桁が16進数1桁に対応し、メモリアドレスや色コードの表記に広く使われる。
FE基数変換
ある基数(n進数)で表された数値を別の基数の表現に変換すること。整数部は基数で繰り返し割り、小数部は基数を繰り返し掛けて変換する。2進数・8進数・10進数・16進数間の変換が重要。
FE固定小数点数
小数点の位置を固定して数値を表現する方式。整数の表現に主に使われ、演算が高速だが表現できる数値の範囲が限られる。符号ビットを含め、負の数は2の補数で表現することが多い。
FE浮動小数点数
符号部・指数部・仮数部で構成され、小数点の位置を動的に変えて数値を表現する方式。非常に大きな数や非常に小さな数を扱えるが、丸め誤差が発生する場合がある。IEEE 754が標準規格。
