在Javascript中处理float精度

我在javascript中有大量的数值y 。 我想通过将它们四舍五入到x的最接近的倍数并将结果转换为一个string。

我如何解决烦人的浮点精度？

例如： 

 0.2 + 0.4 = 0.6000000000000001

我已经尝试了两件事情： 

 >>> y = 1.23456789 >>> x = 0.2 >>> parseInt(Math.round(Math.floor(y/x))) * x; 1.2000000000000002

和： 

 >>> y = 1.23456789 >>> x = 0.2 >>> y - (y % x) 1.2000000000000002

从这篇文章： 如何处理JavaScript中的浮点数精度？

你有几个select：

  • 对小数使用特殊的数据types，如BigDecimal
  • (Math.floor(y/x) * x).toFixed(2)将结果格式化为固定的有效数字位数，
  • 将所有数字转换为整数 
 > var x = 0.1 > var y = 0.2 > var cf = 10 > x * y 0.020000000000000004 > (x * cf) * (y * cf) / (cf * cf) 0.02

快速解决 

  var _cf = (function() { function _shift(x) { var parts = x.toString().split('.'); return (parts.length < 2) ? 1 : Math.pow(10, parts[1].length); } return function() { return Array.prototype.reduce.call(arguments, function (prev, next) { return prev === undefined || next === undefined ? undefined : Math.max(prev, _shift (next)); }, -Infinity); }; })(); Math.a = function () { var f = _cf.apply(null, arguments); if(f === undefined) return undefined; function cb(x, y, i, o) { return x + f * y; } return Array.prototype.reduce.call(arguments, cb, 0) / f; }; Math.s = function (l,r) { var f = _cf(l,r); return (l * f - r * f) / f; }; Math.m = function () { var f = _cf.apply(null, arguments); function cb(x, y, i, o) { return (x*f) * (y*f) / (f * f); } return Array.prototype.reduce.call(arguments, cb, 1); }; Math.d = function (l,r) { var f = _cf(l,r); return (l * f) / (r * f); }; > Math.m(0.1, 0.2) 0.02

您可以在完整解决scheme中查看完整说明

你可以做这样的事情： 

 > +(Math.round(y/x)*x).toFixed(15); 1.2

看看这个链接….它帮了我很多

http://www.w3schools.com/jsref/jsref_toprecision.asp

toPrecision（no_of_digits_required）函数返回一个string，所以不要伪造使用parseFloat（）函数来转换为req精度的小数点

为了解决这个问题，我首先findx的小数位数，然后相应地舍入y 。 我会使用： 

 y.toFixed(x.toString().split(".")[1].length);

它应该将x转换为一个string，在小数点上分割它，find正确部分的长度，然后y.toFixed(length)应该基于该长度取整y 。

Interesting Posts