勉強したことのメモ

webプログラマ見習いが勉強したことのメモ。

JavaScriptで小数の計算(decimal.js)

2018/05/24 2018/06/04

JavaScriptで小数の計算をすると値がずれることがあった。調べてみるとJavaScriptはIEEE754とかいう規格にそって実装されており、そのせいで誤差が生まれるらしい。自作関数とかで何とかする方法とライブラリで対応する方法があり、ライブラリの方が楽そうだったのでライブラリ使用方法のメモ。

ライブラリをダウンロード

https://github.com/MikeMcl/decimal.js/

使い方

var dec = new Decimal(0.001);

//足し算
dec = dec.plus(0.001);

//引き算
dec = dec.minus(0.001);

//掛け算
dec = dec.times(0.001);

//割り算
dec = dec.div(0.001);

//数字化
var num = dec.toNumber();

//メソッドチェーンみたいにも使える
console.log(dec.times(0.01).toNumber());

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

var dec = new Decimal(0.001);

//足し算

dec = dec.plus(0.001);

//引き算

dec = dec.minus(0.001);

//掛け算

dec = dec.times(0.001);

//割り算

dec = dec.div(0.001);

//数字化

var num = dec.toNumber();

//メソッドチェーンみたいにも使える

console.log(dec.times(0.01).toNumber());

ソース

<script type="text/javascript" src="decimal.js"></script>
<script>
var a = 0.01;
var b = 0.0001;
console.log(a * b); //0.0000010000000000000002が表示される

var dec = new Decimal(a);
console.log(dec.times(b).toNumber()); //0.000001が表示される
</script>

1

2

3

4

5

6

7

8

9

<script type="text/javascript" src="decimal.js"></script>

<script>

var a = 0.01;

var b = 0.0001;

console.log(a * b); //0.0000010000000000000002が表示される

var dec = new Decimal(a);

console.log(dec.times(b).toNumber()); //0.000001が表示される

</script>

参考サイト

http://laxmi759.blog.fc2.com/blog-entry-92.html

関連記事

: jQueryでドロワーメニューの作成

■やりたかった事スマホ用サイトにドロワーメニューを設置したかった。 &nbsp ...

: setTimeoutの注意点

javascriptのsetTimeoutにて変数を用いた際に想定外の挙動を起 ...

: JavaScriptで連想配列を数値でソート

数字の大きい順でソートしたかったんだけど、色々調べてhash.sort云々やっ ...

: リンク部分にマウスオーバーでツールチップを表示(nicetitles.js)

既存のソースにて見たことの無いプラグインが使われていたのでメモ。 ■参考 ht ...

: JavaScriptでURLのクエリを取得する２

直近で調べたのとは別に、 http://aaa.bbb/ccc/id123?te ...

: jQueryで偶数or奇数行にclassを付与

やりたかった事は、・PHPは使えなくてjavascriptかjQueryを使用 ...

: 日付入力のテキストフォームにカレンダープラグインを導入

やりたかった事と制限は下記の通り。・日付入力のテキストフォームにカレンダープラ ...

: getElementsByTagName

うろ覚えだけど業務中に、 document.getElementById('aa ...

: javascriptでブラウザ判別&ページ遷移

var userAgent = window.navigator.userAge ...

: GoogleMapAPIで現在地を更新する方法

GoogleMapAPIを使って現在地を取得してその場所にマーカーを設置、その後 ...

PREV: 複数のajax処理の結果をまとめて表示
NEXT: Highstockの使い方とカスタマイズ