最近、考えることがあったのでまとめておきます。
1. 有効数字とは?
(http://topicmaps.u-gakugei.ac.jp/phys/exp/titles/sigfig.aspより抜粋・一部改)
有効数字とは、測定器で測定しうる量の有効な桁数の数字のことです。これを考慮した表記をすることは、測定で得られる最小桁に不確定な数字があることの明示をすることになります。
つまり、有効数字には最小桁に誤差が含まれます。「2.64」が有効数字なら、4には誤差が含まれますが、その上の桁の6は信頼できるということになります。
デジタル表示の測定器の場合、表示の最小桁まで測定感度があり、最小桁まで有効数字と見なせます。ただし、取扱説明書などで感度を確かめる必要があります。
アナログ表示では、最小目盛りの1/10までを有効数字とします。例えば、最小目盛り1mmの物差しで長さを測るなら、0.1mmまで読みとる必要があります。
2. 有効数字の考え方
(http://www.buturigaku.net/main02/Report/Reports063.htmlより抜粋・一部改)
私たちが理解しなくてはいけないのは、「どんなに高精度の計測器を使用しても、真の値をズバリ読み取ることはできない」ということです。計測は真の値を読んでいるのではないのです。
たとえば、有効数字が「67.4」であるということは、「67.35~67.45の範囲」を代表して「67.4」と表現しているにすぎません。有効数字は、「真の値はこの中に入っていますよ」という範囲を示すのです。
有効数字を見ることによって、値だけでなく、その値をどこまで“信じて”いいのかが明らかになります。これを見れば、真の値の範囲が判るからです。
3. 「有効数字は何桁か」
測定結果を発表する際には、同じ測定器により得たデータの有効数字を、そのデータの中で最も有効数字の桁数が小さいものに合わせます。つまり、最小目盛りが1mmの30cm定規で測った長さのデータの平均値と標準偏差が、ある群では「2.23±0.12cm」、別の群では「18.52±1.26cm」のとき、後者のデータは前者の有効数字の桁数に合わせて「1.85(±0.13)×10^1 cm」(^は累乗を示す)と表記すべきであるようです。この点、私は納得できない思いもあるのですが、これがルールであるようです。
なお、測定誤差の有効桁数は、測定結果の代表値(平均値など)自体の有効桁数と同じですが、表示をするときは代表値の有効桁数までしか書きません。代表値の精度が、もともとそこで切れてしまうものだからです。(http://www15.wind.ne.jp/~Glauben_leben/Buturi/Riki/YuukouSuuji.htmの「3. 有効数字の表記」より)
この有効数字の扱い方については、私の理解できていない部分もありますので、誤りなどがありましたらご指摘をいただければ幸いです。
最後に、有効数字の定義について付記しておきます。有効数字は、JIS K0211で次のように定義されているそうです。
「測定結果などを表わす数字のうちで位取りを示すだけのゼロを除いた意味のある数字」
(有効数字とはより)