JavaScriptで小数の計算(decimal.js)
2018/06/04
JavaScriptで小数の計算をすると値がずれることがあった。調べてみるとJavaScriptはIEEE754とかいう規格にそって実装されており、そのせいで誤差が生まれるらしい。自作関数とかで何とかする方法とライブラリで対応する方法があり、ライブラリの方が楽そうだったのでライブラリ使用方法のメモ。
ライブラリをダウンロード
https://github.com/MikeMcl/decimal.js/
使い方
|
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 |
var dec = new Decimal(0.001); //足し算 dec = dec.plus(0.001); //引き算 dec = dec.minus(0.001); //掛け算 dec = dec.times(0.001); //割り算 dec = dec.div(0.001); //数字化 var num = dec.toNumber(); //メソッドチェーンみたいにも使える console.log(dec.times(0.01).toNumber()); |
ソース
|
1 2 3 4 5 6 7 8 9 |
<script type="text/javascript" src="decimal.js"></script> <script> var a = 0.01; var b = 0.0001; console.log(a * b); //0.0000010000000000000002が表示される var dec = new Decimal(a); console.log(dec.times(b).toNumber()); //0.000001が表示される </script> |
参考サイト
関連記事
-
-
JavaScriptで全角半角を判別の上で文字数カウントを行う
やりたかった事は「全角5文字・半角10文字以内の入力フォーム」 みたいなもの。 ...
-
-
setTimeoutの注意点
javascriptのsetTimeoutにて変数を用いた際に 想定外の挙動を起 ...
-
-
テキストエリアを自動でリサイズ
改行するだけで勝手にリサイズしてくれるので、 ユーザー用でも管理用でも使えそう。 ...
-
-
JavaScriptでURLのクエリを取得する
やりたかった事はJavaScriptでGETのクエリを取得。 ■ソース var ...
-
-
他サイトのRSS情報を画像付きで表示させる
WordPressでAというサイトを作成し、AのRSS情報をBというサイトでアイ ...
-
-
javascriptのfor文で負荷軽減
javascriptで配列の数だけループをまわす際、 for (i=0; i&l ...
-
-
jQueryでドロワーメニューの作成
■やりたかった事 スマホ用サイトにドロワーメニューを設置したかった。   ...
-
-
JavaScriptの三項演算子
いつもと違う書き方？ 使い方の三項演算子が あったのでメモ。 ■ソース var ...
-
-
JavaScriptで三項演算子の中に三項演算子
既存のソースを作り変えている際によく分からないソースがあった。 だいぶ書き換えて ...
-
-
IEでjavascript関数の初期値
あるJavaScriptの関数でchromeやfirefoxは正常に動いたけどI ...
- PREV
- 複数のajax処理の結果をまとめて表示
- NEXT
- Highstockの使い方とカスタマイズ