0.9mと90cmは違う

数字のお話です。
私たちの技術の世界では数字はすべて「有効数字」というもので表しています。
有効数字とは、「データとして意味のある数字」という意味です。
たとえば、「0.9m」と表記した場合、この数値は「0.85m」を四捨五入で切り上げたもの、もしくは「0.94m」を切り捨てたものの、いずれかの数値ですから「0.85~0.94mまでの範囲にある数値」ということになります。
一方の90cm→0.90mは同じように「0.895~0.904m」の間にある数値を示すことになります。
当然、0.90mの方が精度が高い数値となります。
一見、同じ数字に見えてもその数値の持つ意味は異なります。
その意味を理解して数値を使わないと、意味のない数字が並んでしまうことがありまし、逆に必要ないのにやたら精度の高い数値を用いてしまうこともあります。
使う目的に応じて、適正な有効数字を使うように注意して使いましょう。

カテゴリー: 仕事のあれこれ パーマリンク