有効数字

有効数字3桁とは，例えば，12.4とか，1.24×10などのことです．12.40と表記すると有効数字4桁になります．
工学部の学生の演習では，求める数値（例えば，有効数字3桁で）を書きます．例えば，√2　と無理数のままでなく，1.41　と書きます．
従って，開平の計算法も知っている必要があります．
円周率3.1415926･･･は無理数で際限なく続きますが，ほとんどの問題で有効数字3桁あれば実用上問題ありません．
数学では無理数も残した正確な解の記述が当たり前ですが，工学では小数の記述が必要で，有効数字をよく理解せず，際限のない無駄な計算をする学生がいます．

さて，答えを有効数字3桁で求められたとき，計算過程では，すべての数値の有効数字を揃えて行います．一つの数値だけ有効数字の桁が大きくて精度が良くても意味がありません．また，計算に使うすべての数字の有効数字を大きくしても無駄で，際限のない計算をすることになります．
最終的に要求される有効数字より一桁多い有効数字の数値を用いて計算を進めることが慣例的に行われています．しかし，そのように計算を進めても，特に，減算のときに有効数字の桁落ちが起こることが良くあり，その段階で最終的に必要な有効数値が桁落ちします．このため解答の有効数字の末尾の数字に多少のばらつきがみられます．