2014.10.29掲載のリライト
測定器の精度と誤差の扱い
測定において測定器自信の精度を越えて正確に測れることは考えられない
従って、測定の誤差の計算値が測定器の精度を越えた値になった場合は
測定器の精度を誤差として用いることが妥当である。
本来、誤差は大きく見積もるべきもの
「測定器の精度」の値と「確率による誤差(ばらつきによる誤差)」の値を比べて大きい方を「その測定の誤差」として採用する。
測定器の精度 ~ 各種精度の例
副尺あり
ノギス $0.03$[mm]
副尺なし
マイクロメーター $0.001$[mm]
巻尺 $1$[mm]
天秤 $1$[g]
アルコール温度計 $0.1$[度]
電流計・電圧計 最少目盛$\times 1/10$
デジタル測定器 最小表示値
ストップウォッチ $0.01$[s]
電子天秤 $0.1$[g]
マルチメーター 最小表示値
温度計 $0.1$[度]