JavaScriptで小数の計算(decimal.js)
2018/06/04
JavaScriptで小数の計算をすると値がずれることがあった。調べてみるとJavaScriptはIEEE754とかいう規格にそって実装されており、そのせいで誤差が生まれるらしい。自作関数とかで何とかする方法とライブラリで対応する方法があり、ライブラリの方が楽そうだったのでライブラリ使用方法のメモ。
ライブラリをダウンロード
https://github.com/MikeMcl/decimal.js/
使い方
|
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 |
var dec = new Decimal(0.001); //足し算 dec = dec.plus(0.001); //引き算 dec = dec.minus(0.001); //掛け算 dec = dec.times(0.001); //割り算 dec = dec.div(0.001); //数字化 var num = dec.toNumber(); //メソッドチェーンみたいにも使える console.log(dec.times(0.01).toNumber()); |
ソース
|
1 2 3 4 5 6 7 8 9 |
<script type="text/javascript" src="decimal.js"></script> <script> var a = 0.01; var b = 0.0001; console.log(a * b); //0.0000010000000000000002が表示される var dec = new Decimal(a); console.log(dec.times(b).toNumber()); //0.000001が表示される </script> |
参考サイト
関連記事
-
-
jQueryやJavaScriptで認識違いしていたところのメモ(高速化)
認識違いしていたり、知らなかったりでもっと高速な 処理を行えそうな点があったので ...
-
-
Ajaxでプラグイン無しのファイルアップロード
画像ファイルを添付できて、尚且つAjaxを用いた非同期通信のフォームを作りたかっ ...
-
-
PHPの配列をファイルに保存してPHPやJSで呼び出す
PHPの配列をファイルとして保存し、別のページからPHPやJavaScriptで ...
-
-
JavaScriptで三項演算子の中に三項演算子
既存のソースを作り変えている際によく分からないソースがあった。 だいぶ書き換えて ...
-
-
画像をドラッグ&ドロップでアップロード
■2015/04/15追記 以下記事の方が新しくて詳しい。 http://tai ...
-
-
lightboxでCSPエラーが発生
CSP(コンテンツセキュリティポリシー)設定を行っているサーバーでLightbo ...
-
-
getElementsByTagName
うろ覚えだけど業務中に、 document.getElementById('aa ...
-
-
マウスオーバーでの画像切り替えをJavaScriptで簡単に対応
マウスが要素にのった際に画像を切り替える処理を入れたかった。多分CSSの管轄なん ...
-
-
javascriptで画像を取り扱う際の注意
javascriptで画像を取り扱う際に、 ちゃんと要素を指定しているのにも関わ ...
-
-
javascriptでゼロパティング
月日をゼロパディングしたかったけど PHPとは違い、そういった関数は無かったので ...
- PREV
- 複数のajax処理の結果をまとめて表示
- NEXT
- Highstockの使い方とカスタマイズ