勉強したことのメモ

webプログラマ見習いが勉強したことのメモ。

JavaScriptで小数の計算(decimal.js)

2018/05/24 2018/06/04

JavaScriptで小数の計算をすると値がずれることがあった。調べてみるとJavaScriptはIEEE754とかいう規格にそって実装されており、そのせいで誤差が生まれるらしい。自作関数とかで何とかする方法とライブラリで対応する方法があり、ライブラリの方が楽そうだったのでライブラリ使用方法のメモ。

見出し

1 ライブラリをダウンロード
2 使い方
3 ソース
4 参考サイト

ライブラリをダウンロード

https://github.com/MikeMcl/decimal.js/

使い方

var dec = new Decimal(0.001);

//足し算
dec = dec.plus(0.001);

//引き算
dec = dec.minus(0.001);

//掛け算
dec = dec.times(0.001);

//割り算
dec = dec.div(0.001);

//数字化
var num = dec.toNumber();

//メソッドチェーンみたいにも使える
console.log(dec.times(0.01).toNumber());

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

17

18

19

var dec = new Decimal(0.001);

//足し算

dec = dec.plus(0.001);

//引き算

dec = dec.minus(0.001);

//掛け算

dec = dec.times(0.001);

//割り算

dec = dec.div(0.001);

//数字化

var num = dec.toNumber();

//メソッドチェーンみたいにも使える

console.log(dec.times(0.01).toNumber());

ソース

<script type="text/javascript" src="decimal.js"></script>
<script>
var a = 0.01;
var b = 0.0001;
console.log(a * b); //0.0000010000000000000002が表示される

var dec = new Decimal(a);
console.log(dec.times(b).toNumber()); //0.000001が表示される
</script>

1

2

3

4

5

6

7

8

9

<script type="text/javascript" src="decimal.js"></script>

<script>

var a = 0.01;

var b = 0.0001;

console.log(a * b); //0.0000010000000000000002が表示される

var dec = new Decimal(a);

console.log(dec.times(b).toNumber()); //0.000001が表示される

</script>

参考サイト

http://laxmi759.blog.fc2.com/blog-entry-92.html

関連記事

: alert後にページ遷移

JavaScriptのalertが閉じたらページ遷移させてほしいと言われ、con ...

: setTimeoutの注意点

javascriptのsetTimeoutにて変数を用いた際に想定外の挙動を起 ...

: 複数のajax処理の結果をまとめて表示

同時にajax処理を行う際、挙動やコードの書き方に悩まされることが多い。例えばA ...

: Ajaxでプラグイン無しのファイルアップロード

画像ファイルを添付できて、尚且つAjaxを用いた非同期通信のフォームを作りたかっ ...

: JavaScriptでFlashのバージョンを取得

既存のソースでFlashのバージョン取得を行っているものがあり、使いそうなので ...

: highcharts.jsについて

プログラムの作りかえを行う際、既存のソースで highcharts.jsを使って ...

: ページのリロード、ページの戻る

ブラウザのリロードと同じようなボタンを作成してほしいとの要望があって色々あった ...

: GoogleMapsAPIでマーカーが全て表示されるように自動ズーム

GoogleMapsAPIでマーカーを複数設置した場合にズームの値や、マーカーの ...

: JavaScriptで文字列から数値へ変換時の注意

JavaScriptで文字列から数値へ変換時に思った挙動と異なることがあった。具 ...

: JavaScriptで多次元連想配列

JavaScriptで多次元の配列を作る際にいつも迷ってしまうのでメモ。 ■こう ...

PREV: 複数のajax処理の結果をまとめて表示
NEXT: Highstockの使い方とカスタマイズ