計算誤差

☆桁落ち

値がほぼ等しい二つの数値の差を求めた時、有効桁数が減ることによって発生する誤差。
整数では発生しない。
消えてしまった有効桁数は0に置き換えられる。でもその0って本当に0なの?違くない?ってのが桁落ち。


丸め誤差

指定された有効桁数で演算結果を表すために、切り捨て、切り上げ、四捨五入などで下位の桁を削除することによって発生する誤差。
これはわかりやすい。


情報落ち

絶対値の非常に大きな数値と小さな数値の加算や減算を行ったとき、小さい数値が計算結果に反映されないことによって発生する誤差。
差が極端にある大きい数値と小さい数値の計算をしようとしたときに、小さい数値の計算が反映されない。
⇒対策:小さい方から順番に足していけばいい。


打切り誤差

無限級数で表される数値の計算処理を有限項で打ち切ったことによって発生する誤差。
無限に続く計算処理を途中で打ち切った時に発生する誤差のこと。

この記事が気に入ったらサポートをしてみませんか?