toPrecisionメソッド

広告

toPrecisionメソッドは対象のNumberクラスのオブジェクトを文字列に変換する場合に、有効桁数を指定して変換した値を返します。 

toPrecision(int)

Numberクラスのオブジェクトの文字列表現を返します。小数点以上の桁数とと
小数点以下の桁数が指定した有効桁数になるように必要に応じて指数形式に変
換したり小数点以下を四捨五入を行ったり0で埋めます。

パラメータ:
  int  有効桁数
戻り値:
  Numberクラスのオブジェクトが表す数値の文字列表現
例外：
  RangeError  有効桁数に範囲を超えた数値を指定した場合

Numberクラスのオブジェクトが表す数値を文字列に変換した結果を返します。この時、指定した有効桁数となるように変換した結果を返します。

まず対象のオブジェクトが表す数値の整数部分が指定した有効桁数よりも大きい場合は指数形式に変換します。 

対象の数値  176.54

toPrecision(1) --> 2e+2
toPrecision(2) --> 1.8e+2

対象のオブジェクトが表す数値の整数部分が指定した有効桁数よりも小さい場合は小数点形式に変換します。有効桁数から整数部分の桁数を引いた残りの桁数と対象の数値の小数点以下の桁数を比較し、対象の数値の小数点以下の桁数が大きい場合には残りの桁数の次の位置で四捨五入を行います。 

対象の数値  176.54

toPrecision(3) --> 177
toPrecision(4) --> 176.5
toPrecision(5) --> 176.54

有効桁数から整数部分の桁数を引いた残りの桁数と対象の数値の小数点以下の桁数を比較し、対象の数値の小数点以下の桁数が小さい場合には残りの桁数になるように0で埋めて行きます。 

対象の数値  176.54

toPrecision(6) --> 176.540
toPrecision(7) --> 176.5400

次の例を見て下さい。 

var num_obj = new Number(176.54);
var str1 = num_obj.toExponential(1);   // "2e+2"
var str2 = num_obj.toExponential(4);   // "176.5"
var str3 = num_obj.toExponential(7);   // "176.5400"

指定した有効桁数になるように変換された文字列を取得できます。

なお有効桁数に0を指定したりあまり大きな数値を指定するとRangeError例外が発生します。

サンプルコード

では簡単なサンプルで試してみます。 

<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN"
 "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd">
<html xmlns="http://www.w3.org/1999/xhtml" xml:lang="ja" lang="ja">
<meta http-equiv="Content-Type" content="text/html;charset=UTF-8">
<meta http-equiv="Content-Script-Type" content="text/javascript">
<title>JavaScript テスト</title>
</head>
<body>

<script type="text/javascript" src="./js/script7_1.js">
</script>

</body>
</html>

function print(str){
  document.write(str + "<br />");
}

document.write("<p>");

var num_obj = new Number(176.54);

print(num_obj.toPrecision(1));
print(num_obj.toPrecision(2));
print(num_obj.toPrecision(3));
print(num_obj.toPrecision(4));
print(num_obj.toPrecision(5));
print(num_obj.toPrecision(6));
print(num_obj.toPrecision(7));

try{
  print(num_obj.toPrecision(0));
}catch (e){
  print(e);
}

try{
  print(num_obj.toPrecision(1000));
}catch (e){
  print(e);
}

document.write("</p>");

上記を実際にブラウザ見てみると次のように表示されます。

p7-1

( Written by Tatsuo Ikura )