勉強したことのメモ

webプログラマ見習いが勉強したことのメモ。

JavaScriptで小数の計算(decimal.js)

2018/05/24 2018/06/04

JavaScriptで小数の計算をすると値がずれることがあった。調べてみるとJavaScriptはIEEE754とかいう規格にそって実装されており、そのせいで誤差が生まれるらしい。自作関数とかで何とかする方法とライブラリで対応する方法があり、ライブラリの方が楽そうだったのでライブラリ使用方法のメモ。

見出し

1 ライブラリをダウンロード
2 使い方
3 ソース
4 参考サイト

ライブラリをダウンロード

https://github.com/MikeMcl/decimal.js/

使い方

var dec = new Decimal(0.001);

//足し算
dec = dec.plus(0.001);

//引き算
dec = dec.minus(0.001);

//掛け算
dec = dec.times(0.001);

//割り算
dec = dec.div(0.001);

//数字化
var num = dec.toNumber();

//メソッドチェーンみたいにも使える
console.log(dec.times(0.01).toNumber());

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

var dec = new Decimal(0.001);

//足し算

dec = dec.plus(0.001);

//引き算

dec = dec.minus(0.001);

//掛け算

dec = dec.times(0.001);

//割り算

dec = dec.div(0.001);

//数字化

var num = dec.toNumber();

//メソッドチェーンみたいにも使える

console.log(dec.times(0.01).toNumber());

ソース

<script type="text/javascript" src="decimal.js"></script>
<script>
var a = 0.01;
var b = 0.0001;
console.log(a * b); //0.0000010000000000000002が表示される

var dec = new Decimal(a);
console.log(dec.times(b).toNumber()); //0.000001が表示される
</script>

1

2

3

4

5

6

7

8

9

<script type="text/javascript" src="decimal.js"></script>

<script>

var a = 0.01;

var b = 0.0001;

console.log(a * b); //0.0000010000000000000002が表示される

var dec = new Decimal(a);

console.log(dec.times(b).toNumber()); //0.000001が表示される

</script>

参考サイト

http://laxmi759.blog.fc2.com/blog-entry-92.html

関連記事

: JavaScriptでFlashのバージョンを取得

既存のソースでFlashのバージョン取得を行っているものがあり、使いそうなので ...

: 複数のajax処理の結果をまとめて表示

同時にajax処理を行う際、挙動やコードの書き方に悩まされることが多い。例えばA ...

: テキストエリアを自動でリサイズ

改行するだけで勝手にリサイズしてくれるので、ユーザー用でも管理用でも使えそう。 ...

: マウスオーバーでの画像切り替えをJavaScriptで簡単に対応

マウスが要素にのった際に画像を切り替える処理を入れたかった。多分CSSの管轄なん ...

: Android2.3でJavaScriptのエラー

Android2.3で関数が動かないといったエラーが発生していた。担当外だった ...

: javascriptでランダム英数字

やりたかった事はjavascriptでランダム英数字の羅列を取得。 ■参考サイト ...

: JavaScriptでURLのクエリを取得する２

直近で調べたのとは別に、 http://aaa.bbb/ccc/id123?te ...

: GoogleMapでマーカーをまとめる

GoogleMapAPIでマーカーを複数表示し、近隣のエリアごとにまとめて表示さ ...

: 3Dデータ(obj,stlファイル)をブラウザ上で表示する方法

3Dデータをブラウザで表示させて、違う方向から見たり、縮小拡大をしたいという案件 ...

: リンク部分にマウスオーバーでツールチップを表示(nicetitles.js)

既存のソースにて見たことの無いプラグインが使われていたのでメモ。 ■参考 ht ...

PREV: 複数のajax処理の結果をまとめて表示
NEXT: Highstockの使い方とカスタマイズ