ものさしやばねばかりなどで、長さや重さなどを測定するとき、ふつう、最小目盛の1/10まで目分量で読む。いま、最小目盛が１mmのものさしで、針の長さを測定し、４８．６mmという値を得たとしよう。これが測定値であるが、これは必ずしも真の値とはいえない。測定値から真の値を引いたものを、測定値の誤差という。

また、正しい目盛のものさしを用いたとしても、測定者の目盛を読むときのくせや、ものさしのあてかたの手加減によって誤差が生じる。たとえば、上記の針の長さの測定値４８．６mmが、正しい目盛のものさしを用いて得られたとしよう。この場合でも、最後の桁の６という数は、目分量で読んだため、多少不確実である。その誤差は、±０．０５mm程度と考えてよいから、針の長さの真の値ｌ（mm）は、

４８．５５≦ｌ＜４８．６５

有効数字の桁数を明確に表記するには、測定値を整数部分が１桁の小数にし、それに１０の累乗を掛けて表す。例えば、ある棒の長さを測定して１２０cmを得たとしよう。この測定値の

　有効数字が２桁であれば、１．２×１０^２cmと表し、

　有効数字が３桁であれば、１．２０×１０^２cmと表す。

たとえば、２つの測定値２１．６cmと０．５４cmの和を求めるとき、そのまま加えて、２２．１４cmとしてよいだろうか。２１．６の値には±０．０５cm程度の誤差が考えられる。２２．１４の末位の４（０．０４cm）より誤差のほうが大きいから、この場合、末位の４は無意味な数字となる。したがって、

たとえば、２１．６cmと０．５４cmの和は、次のように計算する。

いま、最小目盛が１mmのものさしで、長方形の縦・横の長さを測定して、縦８３．２mm、横７．４mmを得たとしよう。これをそのまま用いて長方形の面積Sを求めると、S＝８３．２×７．４＝６１５．６８〔mm^２〕となる。

しかし、縦・横の測定値には、ともに±０．０５mm程度の誤差が考えられるから、面積Sの真の値は、次の範囲内にあるといえる。

（８３．２−０．０５）×（７．４−０．０５）≦ S ＜（８３．２＋０．０５）×（７．４＋０．０５）

　　　　　　　　　よって、　６１１．１５２５≦ S ＜　６２０．２１２５

　すなわち、面積Sとして確実なのは最初の１桁だけで、２桁目はすでに多少疑問があり、３桁目以下は無意味な数字である。したがって、この面積の値としては２桁で十分であり、３桁目を四捨五入して、

S＝６．２×１０^２〔mm^２〕　とすればよい。一般に、