×

JS报错信息"RangeError: precision is out of range"的天坑

作者:andy0012020.04.26来源:Web前端之家浏览:6607评论:0
关键词:jsRangeError

运行项目,出现JS报错信息"RangeError: precision is out of range",天坑啊,我们来分析下解决方法。

描述

RangeError: precision {0} out of range (Firefox)

RangeError: toExponential() argument must be between 0 and 20 (Chrome)

RangeError: toFixed() digits argument must be between 0 and 20 (Chrome)

RangeError: toPrecision() argument must be between 1 and 21 (Chrome)

分析原因

以下的某个方法传入了一个超出精度范围的参数:

Number.prototype.toExponential()
Number.prototype.toFixed()
Number.prototype.toPrecision()

通常这些方法允许的参数范围介于0和20(或21)之间。需要注意的是,ECMAScript标准是允许扩展这个范围的。

MethodFirefox (SpiderMonkey)Chrome, Opera (V8)
Number.prototype.toExponential()0 to 1000 to 20
Number.prototype.toFixed()-20 to 1000 to 20
Number.prototype.toPrecision()1 to 1001 to 21

DEMO

原来错误的写法:

77.1234.toExponential(-1);  // RangeError
77.1234.toExponential(101); // RangeError

2.34.toFixed(-100);         // RangeError 
2.34.toFixed(1001);         // RangeError 

1234.5.toPrecision(-1);     // RangeError
1234.5.toPrecision(101);    // RangeError

修改下:

77.1234.toExponential(4); // 7.7123e+1
77.1234.toExponential(2); // 7.71e+1

2.34.toFixed(1); // 2.3
2.35.toFixed(1); // 2.4 (note that it rounds up in this case)

5.123456.toPrecision(5); // 5.1235
5.123456.toPrecision(2); // 5.1
5.123456.toPrecision(1); // 5

您的支持是我们创作的动力!
温馨提示:本文作者系 ,经Web前端之家编辑修改或补充,转载请注明出处和本文链接:
https://www.jiangweishan.com/article/jscuowu290834798781972.html

网友评论文明上网理性发言 已有0人参与

发表评论: