有効数字の求め方の例題：パチンコ玉の直径をノギスで1回だけ測って体積を求める

授業のための覚書。今後も時々加筆、修正する予定。

有効数字とは
　有効数字 significant figures （有効桁数 significant digit）とは測定で得られた値のうち、最上位の桁から測定の不確かさ uncertainty*1 が入りはじめる最初の桁までのこと。したがって（日本語のウェブページで頻繁に見られる）不確かさについての言及がない有効数字の説明は原理的には間違いであり、ただの恣意的な「桁揃えの算法」に過ぎない。*2
　有効数字を求める趣旨はその測定で知り得たことと知り得ないこと（知り得ない数を書くことは、読者をミスリードするという悪事だ）をはっきり区別し、エビデンス（はっきりと知り得たこと、証拠、根拠）を蓄積することである。
専門用語で言えば、間接測定*3に伴う「誤差の伝播」、つまり有効桁の決定についての話。少なくともボクが高校でやらされた科学（物理、化学）の計算問題はカテゴリー的には「間接測定」に相当すると言っていいのではないかと思う。
方針：いまどきのパソコンならスプレッドシートで直接計算した方が早いよ。

まず直径を計る。

主尺・副尺式のアナログかつアナクロなノギスでパチンコ玉の直径 D を計った結果、目盛の読みが 11.00 mm であったとしよう。ノギスで計っているんだから、目盛の読みは … 10.90 mm, 10.95 mm, 11.00 mm, 11.05mm, 11.10mm, … となっていて、その中の 11.00 mm だ。じゃあこのデータの有効数字は4桁なのだろうか。「違う」というのが答え。大雑把には「目盛が 0.05 mm 刻みだから」。

読みの誤差を評価する

ノギスの読みは 10.95 や 11.05 ではなく 11.00 なので、目盛の刻みと読み方から考えて 11.00±0.025 mm が計測の精度(precision)、つまり 10.975 ≦ D ≦ 11.025 の範囲内のどこかに直径の正しい値があるはずだ。じゃあこのデータの有効数字は5桁、つまりこの値を使ってパチンコ玉の体積を5桁まで求められるのだろうか。「違う」というのが答え。

それでは体積をExcelを使って計算してみよう

スプレッドシートはおろか電卓すらない「紙と鉛筆」の時代であれば、直径 D＋ε=11.025 を3乗し 1340.095641 を求め、πに 3.141592654 なんて代入して計算するのは人生の無駄使いであっただろう。ここではたった1回の計測で得られたたった1個の数値を計算しているだけだが、現実には処理すべき実験データはやまほどあるはずだ。でも今はマルチコアのプロセッサがノートパソコンの中で力を持て余している時代だ。ちからまかせにExcelで「代表値」「上限値」「下限値」で計算をやらせてみるのも実用的にはありだ。で、こうなる。

ここでいろんな数字が現れてクラクラする。

体積の真の値は 692.1691025 ≦ V ≦ 701.6724366
と言ってもここに書かれたすべての桁が「あてになる」わけではない。それでは何桁まで取るのが真っ当なのか：
690 ≦ V ≦ 700 (四捨五入をして上限と下限の値が食い違う最初の桁数か？)
692 ≦ V ≦ 702 (実はこれが「正解」）
692.2 ≦ V ≦ 701.7 (直径 D が 11.00 なので4桁か？)
692.17 ≦ V ≦ 701.67 (誤差を含めると 10.975 ≦ D ≦ 11.025 の範囲なので5桁か？)
ここで「誤差」について丁寧に教えない現在の中等教育（中学、高校）の教程はすべからくことごとくドツボにはまって桁を決定する原理を持たない。

誤差の大きさで有効数字が決まる

ここで最初に見るべき値は、代表値を用いて計算した値と、誤差の上下限の値を用いて計算した値の差、すなわち測定誤差である。ここでは上限値との差が 4.762466295 mm3, 下限値との差が -4.740867845 mm3 である。もちろん誤差を10桁も書く奴はバカである。慣例的には誤差は「最上位1桁(ただし最上位の値が1のときは2桁)」で丸める。*4したがって誤差は ±5 mm3 である。
誤差の最上位が…10 mm3 や 0.1 mm3 ではなく… 1 mm3 の桁なので測定値の有効数字は 1 mm3 の桁までである。だから求める体積の有効数字は3桁であり

計測値： 697±5 mm3, すなわち真の値の範囲は 692 mm3 ≦ V ≦ 702 mm3
である。つまり誤差が決まって、初めて有効数字の桁数が確定する。誤差の考察なしで有効数字を計算させてばかりいるのは、厳密に言えばたちの悪い疑似科学である。

蛇足

*1:「不確かさ」は国際計量用語集 International Vacabulary of Metrology に記されている専門用語です。

*2:MITの物理学の授業の第1回で「不確かさの欠けた測定は無意味である Any measurement without any knowledge of uncertainty is meaningless.」ことが強調されている： http://www.youtube.com/watch?v=PmJV8CHIqFc

*3:パチンコ玉の「直径」や「重量」のように「対象にものさしを当てて」計ることを直接測定、「体積」のようにデータを加工して求めることを間接測定という。

*4:桁の丸め方は大雑把には四捨五入だが、ちょうどど真ん中の値の5の扱いが切り上げに偏っているので不平等だ。これを解決するルールのひとつが JIS Z 8401 に書かれている。