Tag: 浮点

为什么Math.round（0.49999999999999994）返回1: 在下面的程序中，您可以看到，对于每个稍微小于.5值，向下取整，除了0.5 。 for (int i = 10; i >= 0; i–) { long l = Double.doubleToLongBits(i + 0.5); double x; do { x = Double.longBitsToDouble(l); System.out.println(x + " rounded is " + Math.round(x)); l–; } while (Math.round(x) > i); } 版画 10.5 rounded is 11 10.499999999999998 rounded is 10 9.5 rounded is 10 9.499999999999998 rounded […]

在Objective-C中浮动的问题: 我有一个小问题，我找不到解决scheme！我的代码是（这只是一个示例代码，但我的原始代码做这样的事情）： float x = [@"2.45" floatValue]; for(int i=0; i<100; i++) x += 0.22; NSLog(@"%f", x); 输出是52.450001而不是52.450000！我不知道，因为这发生！感谢您的帮助！〜〜解决感谢大家！是的，我已经解决了双重types！

testing浮点相等: 有没有一个函数来testingpython中的浮点近似相等？就像是， def approx_equal(a, b, tol): return abs(a – b) < tol 我的用例类似于Google的C ++testing库gtest.h，它定义了EXPECT_NEAR 。这里是一个例子： def bernoulli_fraction_to_angle(fraction): return math.asin(sqrt(fraction)) def bernoulli_angle_to_fraction(angle): return math.sin(angle) ** 2 def test_bernoulli_conversions(): assert(approx_equal(bernoulli_angle_to_fraction(pi / 4), 0.5, 1e-4)) assert(approx_equal( bernoulli_fraction_to_angle(bernoulli_angle_to_fraction(0.1)), 0.1, 1e-4))

用Python格式化浮点数而不用多余的零: 如何格式化一个浮点数，使其不包含剩余的零点？换句话说，我希望得到的string越短越好。喜欢： 3 -> "3" 3. -> "3" 3.0 -> "3" 3.1 -> "3.1" 3.14 -> "3.14" 3.140 -> "3.14"

截断在Python中的花车: 我想从浮点数中删除数字，在点后面有一个固定的数字位数，如： 1.923328437452 -> 1.923 我需要输出为另一个函数的string，而不是打印。另外我想忽略丢失的数字，而不是围绕它们。

C＃的浮点比较函数: 有人可以指向（或显示）一些很好的通用浮点比较函数在C＃中比较浮点值吗？我想为IsEqual ， IsGreater和IsLess实现函数。我也只是真正关心双打而不是漂浮。

格式浮动与标准的JSON模块: 我在Python 2.6中使用标准的json模块来序列化浮动列表。不过，我得到这样的结果： >>> import json >>> json.dumps([23.67, 23.97, 23.87]) '[23.670000000000002, 23.969999999999999, 23.870000000000001]' 我希望浮点数只有两位小数。输出应该是这样的： >>> json.dumps([23.67, 23.97, 23.87]) '[23.67, 23.97, 23.87]' 我曾尝试定义我自己的JSON编码器类： class MyEncoder(json.JSONEncoder): def encode(self, obj): if isinstance(obj, float): return format(obj, '.2f') return json.JSONEncoder.encode(self, obj) 这适用于唯一的浮动对象： >>> json.dumps(23.67, cls=MyEncoder) '23.67' 但嵌套对象失败： >>> json.dumps([23.67, 23.97, 23.87]) '[23.670000000000002, 23.969999999999999, 23.870000000000001]' 我不想有外部的依赖关系，所以我宁愿坚持使用标准的json模块。我怎样才能做到这一点？

你如何在Python中整理一个数字？: 这个问题正在杀死我。如何在Python中汇总一个数字？我试了一下（数字），但是却把数字放下了。例： round(2.3) = 2.0 and not 3, what I would like 我尝试了int（数字+5），但是它再次围绕数字！例： int(2.3 + .5) = 2 然后我试了一下（数字+5），但在边缘情况下不能使用。例： WAIT! THIS WORKED! 请指教。