JavaScriptで小数の計算(decimal.js)
2018/06/04
JavaScriptで小数の計算をすると値がずれることがあった。調べてみるとJavaScriptはIEEE754とかいう規格にそって実装されており、そのせいで誤差が生まれるらしい。自作関数とかで何とかする方法とライブラリで対応する方法があり、ライブラリの方が楽そうだったのでライブラリ使用方法のメモ。
ライブラリをダウンロード
https://github.com/MikeMcl/decimal.js/
使い方
|
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 |
var dec = new Decimal(0.001); //足し算 dec = dec.plus(0.001); //引き算 dec = dec.minus(0.001); //掛け算 dec = dec.times(0.001); //割り算 dec = dec.div(0.001); //数字化 var num = dec.toNumber(); //メソッドチェーンみたいにも使える console.log(dec.times(0.01).toNumber()); |
ソース
|
1 2 3 4 5 6 7 8 9 |
<script type="text/javascript" src="decimal.js"></script> <script> var a = 0.01; var b = 0.0001; console.log(a * b); //0.0000010000000000000002が表示される var dec = new Decimal(a); console.log(dec.times(b).toNumber()); //0.000001が表示される </script> |
参考サイト
関連記事
-
-
PHPで位置情報を取得してGoogleMapAPIで使用する方法
GPSみたいな位置情報をPHPで取得し、GoogleMapAPIでその場所を反映 ...
-
-
JavaScriptで年齢計算
JavaScriptで年齢計算。 ■ソース function ageCalcul ...
-
-
javascriptでゼロパティング
月日をゼロパディングしたかったけど PHPとは違い、そういった関数は無かったので ...
-
-
JavaScriptでinputタグのtypeを変更
チェックボックスの状態によって inputタグのtypeをtext⇔passwo ...
-
-
javascriptでのについて
javascriptを書く際に、 <script> <!-- ...
-
-
JavaScriptで連想配列を数値でソート
数字の大きい順でソートしたかったんだけど、 色々調べてhash.sort云々やっ ...
-
-
JavaScriptでURLのクエリを取得する２
直近で調べたのとは別に、 http://aaa.bbb/ccc/id123?te ...
-
-
JavaScriptで多次元連想配列
JavaScriptで多次元の配列を作る際にいつも迷ってしまうのでメモ。 ■こう ...
-
-
画像をドラッグ&ドロップでアップロード
■2015/04/15追記 以下記事の方が新しくて詳しい。 http://tai ...
-
-
jQueryでドロワーメニューの作成
■やりたかった事 スマホ用サイトにドロワーメニューを設置したかった。   ...
- PREV
- 複数のajax処理の結果をまとめて表示
- NEXT
- Highstockの使い方とカスタマイズ