有効数字

1.有効数字

データで用いる数値は、デジタルにしてもアナログにしても必ず誤差があります。

例えば、身長を測る際には最小目盛りの1/10までを目分量で読み、そこまでを意味のある数字(有効数字)とする。

具体的にはAさんが170.5[cm]、Bさんが169[cm]、Cさんが171.2312[cm]と言われて、Cさんは信用できませんよね?

そのため、決まりとして最小目盛りの1/10までを有効数字として読み取ります。

例).

\(169.1 cm \quad (有効数字4桁) \hspace{12mm} 3.2\times 10^2 mm \quad (有効数字2桁) \\ 42.34 cm \quad (有効数字4桁) \hspace{12mm} 1.53\times 10^3cm \quad (有効数字3桁) \)

 

2.加減

有効数字がある加減について

結果を精度の最も悪い”位”に合わせて四捨五入

\(0.45+3.4 = 3.85 \quad \to \quad 3.9\)

(理由) 精度の高い位に合わせても、それ以上悪い位がかき消すほど誤差が大きいからです。

極端な事を言うと、\(①1.234567 \pm0.000001\)の(精度の良い)誤差があっても、\(②120\pm10\)の(精度の悪い)誤差を足し合うと、①の(精度の良い)誤差が無意味な事が分かりますよね。

 

3.乗除

有効数字がある乗除について

結果を精度の悪い”桁数”に合わせて四捨五入

\(2.3\times0.4 = 0.92 \quad \to \quad 0.9\)

(理由) 実際に誤差を含めて計算してみましょう。

\(2.3という数字は2.3\pm0.1 , 0.4と言う数字は0.4\pm0.1という誤差を含んだ値です。\)

一番結果に誤差が含まれる計算は\(①2.2\times0.3=0.66,②2.4\times0.4=0.96\)の二つです。

二つを見比べるとわかるように1桁目で誤差が生じている事が分かります。

そのため2桁目は無意味な数字となるのです。

 

4.次元解析

次元解析とは

物理的な関係を表す数式において、両辺の次元が一致しなくてはならない。

そのため、両辺の次元を合わせるように数式を作ると、正しい関係式になっている”可能性”があります。

逆に、次元が合っていないとその関係式は間違いです。

 

例).\(質量M[kg]と速度v[m/s]\)を用いて、エネルギーの次元を持つ量を作る。

エネルギーの次元は\([J]=[N]\cdot[m]=([kg]\cdot[m]/[s^2])\cdot[m]=[kg]\cdot[m^2]/[s^2]\)なるので、

\(mとv\)から同じ次元を作るためには、\(Mv^2 \quad (=[kg]\cdot[m^2]/[s^2])\)となる。

実際の運動エネルギーは\( (1/2) Mv^2\)なので、係数を除いて一致する。

 

おすすめ