2013年12月16日月曜日

端数処理

端数処理

フィールド設定で、数値の自動計算の注意点

EXCELを使っている方は、理解されていると思いますが、小数点以下の端数処理です

1を3で割ると0.33333333富む3が永久に続きます。
では、
 0.23154
 0.1225
 0.45514
を足すと
0.80918とにります

一般生活のなかで、0.123464688のように小数点以下が付くようなことはありません。

消費税、利息は、小数点以下は、切り上げ、切捨て、四捨五入で小数点以下を処理します。

このため端数処理を、しておかなければ、合計が合わなくなります。

0 件のコメント:

コメントを投稿