(3) |
現在使用しているシステムのマシンイプシロンを知るには、計算機上で
(5) |
進
桁の浮動小数点数システムにおける
は、
「切り捨てによる丸め」の場合 :
であり、
「最も近い浮動小数点数への丸め」の場合 :
となる。
IEEEシステムでは後者が標準で、
float
(単精度実数型)の場合、仮数部が24ビットであるから
となり、
double
(倍精度実数型)の場合、仮数部が53ビットであるから
となる。
それぞれの精度の桁数は(4)式を用いると約7桁(float
型)および、約16桁(double
型)であることが分かる。
上記の「丸め」に起因し、算術計算において簡単に起こりうる誤差(広義の「丸め誤差」)を以下に示す。
これらの誤差は計算法を工夫することにより回避出来る場合がある。