JavaScriptで小数の計算(decimal.js)
2018/06/04
JavaScriptで小数の計算をすると値がずれることがあった。調べてみるとJavaScriptはIEEE754とかいう規格にそって実装されており、そのせいで誤差が生まれるらしい。自作関数とかで何とかする方法とライブラリで対応する方法があり、ライブラリの方が楽そうだったのでライブラリ使用方法のメモ。
ライブラリをダウンロード
https://github.com/MikeMcl/decimal.js/
使い方
|
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 |
var dec = new Decimal(0.001); //足し算 dec = dec.plus(0.001); //引き算 dec = dec.minus(0.001); //掛け算 dec = dec.times(0.001); //割り算 dec = dec.div(0.001); //数字化 var num = dec.toNumber(); //メソッドチェーンみたいにも使える console.log(dec.times(0.01).toNumber()); |
ソース
|
1 2 3 4 5 6 7 8 9 |
<script type="text/javascript" src="decimal.js"></script> <script> var a = 0.01; var b = 0.0001; console.log(a * b); //0.0000010000000000000002が表示される var dec = new Decimal(a); console.log(dec.times(b).toNumber()); //0.000001が表示される </script> |
参考サイト
関連記事
-
-
highcharts.jsについて
プログラムの作りかえを行う際、既存のソースで highcharts.jsを使って ...
-
-
異なる文字コード間でform送信する
formの送り手がUTF-8で受け手がEUC-JP、 なんとかしてjavascr ...
-
-
javascriptで論理和演算子の特殊な使い方
論理和「||」の特殊な使い方を教わったのでメモ。 普段使うのは、 if (a = ...
-
-
formでdisplay:none;にしてても送信される
formで特定の部分をdisplay:none;で非表示にしてても 内容は送信さ ...
-
-
リンク部分にマウスオーバーでツールチップを表示(nicetitles.js)
既存のソースにて見たことの無いプラグインが 使われていたのでメモ。 ■参考 ht ...
-
-
JavaScriptでURLのクエリを取得する
やりたかった事はJavaScriptでGETのクエリを取得。 ■ソース var ...
-
-
PHPで位置情報を取得してGoogleMapAPIで使用する方法
GPSみたいな位置情報をPHPで取得し、GoogleMapAPIでその場所を反映 ...
-
-
PHPの配列をファイルに保存してPHPやJSで呼び出す
PHPの配列をファイルとして保存し、別のページからPHPやJavaScriptで ...
-
-
jQueryやJavaScriptで認識違いしていたところのメモ(高速化)
認識違いしていたり、知らなかったりでもっと高速な 処理を行えそうな点があったので ...
-
-
javascriptでブラウザ判別&ページ遷移
var userAgent = window.navigator.userAge ...
- PREV
- 複数のajax処理の結果をまとめて表示
- NEXT
- Highstockの使い方とカスタマイズ