2013-03-16から1日間の記事一覧

「有効数字」と学習指導要領

有効数字とは測定値で測定の不確かさが入るまでの桁のこと。例えば電気素量 e は (1.602176565±35)×10-19[C]*1であり、有効数字は10桁であるが、一番小さい2桁の "65" にはあいまいさが含まれていて、e の正確な値は1.602176530×10-19<e<1.602176600×10-19…