▼▼▼▼▼▼▼▼
チャンネル登録はこちら

数値の丸め方：有効数字・有効桁数に注意

統計数値の計算には、四捨五入で有効数字を使いましょう。

近似値

世の中の数字には２種類あります。

正確な数値と近似値です。

正確な数値の代表は，数えられる(countable)ものです。

例えば，クラスの人数が34人とか，サイフに5724円入っているとか。

しかし，数えられるものでも人口調査などは数え間違いがあり最後の１人までドンピシャとはいきません。

10億人を超える中国やインドの国勢調査は考えるだけで気が遠くなります。

最近はプロ野球も球団発表という概数をやめて，正確な数値を出しています。

甲子園球場は満員の４万7808人（内野２万8765人，外野１万9043人）。

サッカーのＪリーグは創設時から１万2104人などと芸が細かくなっています。

学生スポーツの観客者数のように概数を用いる場合もあります。

ところが　測定される(measurable)ものには誤差がつきものであり，正確な値は出てきません。

ほとんどすべての数値計算は何らかの意味において近似的です。

有効桁数(significant figure)が問題になる由縁です。

例えば，体重計に乗ったプロレスラーの重さが159.3 kgの場合，有効数字は1, 5, 9, 3であり，桁数は４です。

だから，これをポンドに直すに当たり, 159.3÷0.4536 =351. 1904761…から，むやみに多くの桁数を出して, 351.19014761ポンドとしても意味がありません。

一般には，「最初の数字の有効桁数より１桁多く計算して四捨五人したもの」を用います。

351. 19ポンドと計算して，９を四捨五入して351.2ポンドとします。

159.3 kgや351. 2ポンドもいずれも有効数字４桁で同じです。

すでに，昭和初期に数学者の長沢武雄氏は，「3桁の与数ありて６桁の結果を導き出すごときを平然と行って怪しまない」（「実験観測　計算法」丸善, 1931)と当時の学生の計算を嘆いています。

世の中の統計数字の多くは誤差を含んだ測定値や近似値なのです。

近似値を加減乗除して求めた数値は，誤差を含む．それなのに，何桁も出すことは意味がないし，誤解を招きます。

「数を丸める」(rounding)とは，数値の左側より数個の数字のみを表示して，それより右側を省略することです。

例えば，π= 3.141592…を３桁，４桁，５桁に丸めると, 3.14, 3.142, 3.1416と書けます。

四捨五入，切り捨て，切り上げのいずれかによって，近似値を得ます．

四捨五入

決められた位の１つ下の位の数値が０から４のときは切り捨てて，５から９のときは切り上げます。

132÷7=18.85714において，小数第２位で四捨五入すれば，18.9 kgとなり、有効桁数は３桁です。

四捨五入では，丸めの丸めに注意しなくてはいけないことがあります。

例えば，商品別売上表から各商品のシェアをパーセント表示させる場合も２回連続して丸めると，総計が100を超えることがあります。

切り捨て(truncated)

普通預金の利息がつく，付利最低残高は1000円以上であるので，1000円未満にたいして利息はつきません。

また，付利単位は100円であることが決められています。

1599円の預金に対して，99円は切り捨てられ，利息の計算は1500円で行います。

年齢も切り捨てられます。

あと２ヶ月で20歳になるといっても，「いまは19歳」と言います。

四捨五入して「20歳です」とは言いません。

若い女性ですらこうだからまして年配者はこだわります。

71歳の高齢で内閣総理大臣に就任した福田赳夫氏は，明治38年生まれにかこつけて，「明治38歳」と若さをアピールしていました。

切り上げ

人が死んだときの年齢「享年」は切り上げます。

満78歳で亡くなっても享年79歳と言います。

生きているときは若く，死んだら長生きしたと見せたいのが人情です。

大人運賃210円なら子供運賃は半額の105円ではなく, 110円とするバス会社があります。

ＪＲの運賃の計算では，営業キロの１キロ未満は切り上げます。

23.3kmならば24km。

その代わりかどうか知りませんが，同一区間の片道601km以上の乗車区間の場合，往復共に片道料金は正規の１割引きとなり，割引料金の10円未満の端数は切り捨てます。

子供運賃は大人の半値で，10円未満の端数は切り捨てにします。

電卓の端数処理とオーバーフロー

除算で割り切れないときや，答えが平方根で無理数になったときには，電卓の数値は途中までしか出てきません。

そこで最後の数値を端数処理する．切り下げ（カシオ，キヤノン，シャープ）方式が多く，切り上げおよび四捨五入の方式は少ないようです。

したがって，計算が連続すると端数処理のために誤差が累積します。

また，乗算で桁数が多くなったときなどは，整数部分が表示桁数を超えるとオーバーフローとなります。

先頭にＥ（エラー）が表示されます。

これ以上の計算は続行できません。