Tag: 精度

PHP的浮动数字精度

$a = '35'; $b = '-34.99'; echo ($a + $b); 结果为0.009999999999998 这是怎么回事？ 我想知道为什么我的程序不断报告奇怪的结果。 为什么PHP不会返回预期的0.01？

如何使用cout以完全精度打印双精度值？

所以我已经得到了最后一个问题的答案（我不知道为什么我没有想到这一点）。 我正在用cout打印一个double ，当我不期待的时候。 我怎样才能让cout使用全精度打印double精度？

限制浮点数到两个小数点

我想要a四舍五入到13.95 。 >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 round函数不能按照我的预期工作。

在Java中保持双精度

public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } 上面的代码打印： 11.399999999999 我怎样才能打印（或能够使用它）11.4？

为什么在MATLAB中24.0000不等于24.0000？

我正在写一个程序，我需要删除存储在matrix中的重复点。 问题是，当检查这些点是否在matrix中时，MATLAB虽然存在，但在matrix中不能识别它们。 在下面的代码中， intersections函数获取交点： [points(:,1), points(:,2)] = intersections(… obj.modifiedVGVertices(1,:), obj.modifiedVGVertices(2,:), … [vertex1(1) vertex2(1)], [vertex1(2) vertex2(2)]); 结果： >> points points = 12.0000 15.0000 33.0000 24.0000 33.0000 24.0000 >> vertex1 vertex1 = 12 15 >> vertex2 vertex2 = 33 24 应该从结果中删除两个点（ vertex1和vertex2 ）。 它应该由以下命令完成： points = points((points(:,1) ~= vertex1(1)) | (points(:,2) ~= vertex1(2)), :); points = points((points(:,1) […]