四捨五入
えーと、ちょっと誤解を与えかねないような。
たとえば、1.25 と 1.15 を有効桁数2桁に四捨五入する場合、両方とも最後の桁が偶数になるように、1.2 に丸めるので正しいのだけど、JISなんかで定められている四捨五入では n + 1 桁目だけを見るんではなくて、n + 1 桁目以降の有効数字全部を見て近いほうに丸めるわけで、偶数に丸めるだのの話は n + 1 桁目移行全てを見てもどちらが近いか確定できない場合(n + 1 桁目が 5 でかつ、n + 2 桁目移行全て0)の話。つまりは 1.25 を有効桁数2桁で四捨五入すると 1.2 だけど、1.251 の場合は 1.3 になるわけだ。
有効数字にうるさい工学だと常識なような気もするけど、実際知らない人は多いかもしれない。いまどき手で計算しないしなぁ。
