勉強したことのメモ

webプログラマ見習いが勉強したことのメモ。

JavaScriptで小数の計算(decimal.js)

2018/05/24 2018/06/04

JavaScriptで小数の計算をすると値がずれることがあった。調べてみるとJavaScriptはIEEE754とかいう規格にそって実装されており、そのせいで誤差が生まれるらしい。自作関数とかで何とかする方法とライブラリで対応する方法があり、ライブラリの方が楽そうだったのでライブラリ使用方法のメモ。

見出し

1 ライブラリをダウンロード
2 使い方
3 ソース
4 参考サイト

ライブラリをダウンロード

https://github.com/MikeMcl/decimal.js/

使い方

var dec = new Decimal(0.001);

//足し算
dec = dec.plus(0.001);

//引き算
dec = dec.minus(0.001);

//掛け算
dec = dec.times(0.001);

//割り算
dec = dec.div(0.001);

//数字化
var num = dec.toNumber();

//メソッドチェーンみたいにも使える
console.log(dec.times(0.01).toNumber());

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

var dec = new Decimal(0.001);

//足し算

dec = dec.plus(0.001);

//引き算

dec = dec.minus(0.001);

//掛け算

dec = dec.times(0.001);

//割り算

dec = dec.div(0.001);

//数字化

var num = dec.toNumber();

//メソッドチェーンみたいにも使える

console.log(dec.times(0.01).toNumber());

ソース

<script type="text/javascript" src="decimal.js"></script>
<script>
var a = 0.01;
var b = 0.0001;
console.log(a * b); //0.0000010000000000000002が表示される

var dec = new Decimal(a);
console.log(dec.times(b).toNumber()); //0.000001が表示される
</script>

1

2

3

4

5

6

7

8

9

<script type="text/javascript" src="decimal.js"></script>

<script>

var a = 0.01;

var b = 0.0001;

console.log(a * b); //0.0000010000000000000002が表示される

var dec = new Decimal(a);

console.log(dec.times(b).toNumber()); //0.000001が表示される

</script>

参考サイト

http://laxmi759.blog.fc2.com/blog-entry-92.html

関連記事

: prototypeとjqueryの競合

ちょいちょい見るが、実際に競合をおこしているケースにあたったのでメモ。 ↓↓の ...

: javascriptの注意点

javascriptにてチェックボックスのチェック状況をチェックをループでまわ ...

: JavaScriptで連想配列を数値でソート

数字の大きい順でソートしたかったんだけど、色々調べてhash.sort云々やっ ...

: JavaScriptでinputタグのtypeを変更

チェックボックスの状態によって inputタグのtypeをtext⇔passwo ...

: ユーザーエージェントなどユーザー情報を取得する方法

上からUA、IP、ホスト名を取得。 $ua = $_SERVER['HTTP_U ...

: GoogleMapでマーカーをまとめる

GoogleMapAPIでマーカーを複数表示し、近隣のエリアごとにまとめて表示さ ...

: PHPで位置情報を取得してGoogleMapAPIで使用する方法

GPSみたいな位置情報をPHPで取得し、GoogleMapAPIでその場所を反映 ...

: GoogleMapAPIでヒートマップを表示する方法

GoogleMapAPIで花粉状況や雨量を可視化しやすいようなヒートマップ的なも ...

: JavaScriptでURLのクエリを取得する２

直近で調べたのとは別に、 http://aaa.bbb/ccc/id123?te ...

: IEでjavascript関数の初期値

あるJavaScriptの関数でchromeやfirefoxは正常に動いたけどI ...

PREV: 複数のajax処理の結果をまとめて表示
NEXT: Highstockの使い方とカスタマイズ