JavaScriptの浮動小数点数型の誤差をなくす

求人

JavaScriptの浮動小数点数型の計算をすると誤差が生じます。

以下計算をしてみます。

これは正確には仕様どおりの動作となります。IEEE_754参考

この誤差をなくすには、浮動小数点を10の累乗をかけて整数にしてから計算し、最後に10の累乗で割って浮動小数点数型に戻す、という方法があります。

10の累乗をかけるので、100を掛けたい場合は、10*10とします。(10の累乗とする)

もしくはBigDecimal.js、math.js等のライブラリを使えば誤差が生じません。

関西で140-170/80~120万から受け付けております^^
得意技はJS(ES6),Java,AWSの大体のリソースです
Python3.6,Djangoを勉強中です,Javaは少し飽きてしまってます–;
コメントはやさしくお願いいたします^^
座右の銘は、「狭き門より入れ」「願わくは、我に七難八苦を与えたまえ」です^^

スポンサーリンク
  • このエントリーをはてなブックマークに追加
スポンサーリンク

コメントをどうぞ

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

CAPTCHA