2013-11-18から1日間の記事一覧

doubleのまま計算を続けると、計算誤差が増えるって話

doubleでの計算は、計算誤差が生まれるよ、っていう話。 a の値が正確に"0.9"ではないため、どちらにせよ誤差が生まれるけどね。 コードレビューしてて、doubleだけで計算してるのがあった。。。 小数点を含む計算って、BigDecimalを使うのが当たり前じゃな…