====== 切り上げ ====== 仕様書の中に、「小数点第4位で切り上げ」というのがありました。\\ 容積の求める項目なのですが、小数点3桁までとなっている。\\ 容積 =(たて / 1000)×(よこ / 1000)x(たかさ / 1000) 製造作業も終了し、検証作業ということで検証者がチェックしたわけですが、不具合ということで、容積の計算結果が挙がってきたわけです。 下記の計算を行ったとき (9999 / 1000)×(9999 / 1000)×(9999 / 1000)= 999.70003 製造者の計算結果は、999.701 検証者の計算結果は、999.700 小数点第4位で切り上げであるため、小数点第4位の値は0であるから結果の末桁は、0ではないのか?という認識ですね。\\ それではと、Excel上の切り上げ関数のROUNDUPで実行してみました。\\ ROUNDUP(999.70003,3)=999.701という結果となったわけです。\\ この件は、お客さんに確認して小数点第4位以降を切り上げでいうことで「999.701」で問題ないとなりました。\\ 端数処理もちりもつもれば、集計結果が違ってきてしまいますからね。\\ 端数処理の違いで有名なのは四捨五入で、銀行型丸め、通常の四捨五入があります。\\ [[http://www.atmarkit.co.jp/fdotnet/dotnettips/700mathround/mathround.html|.NET TIPS 数値を四捨五入するには?]] 端数処理は意外と盲点なので、気をつけた方がいいでしょう。