Tag: 十进制

如何在浮点运算和十进制中表示0.1

我正在尝试更好地理解浮点运算，并且看到了“每个计算机科学家应该知道什么是浮点运算”的几个链接。 我仍然不明白像0.1或0.5这样的数字是如何存储在浮点数和小数。 有人能解释一下，它是如何摆放的？ 我知道浮球是两个部分（即一些东西的数量）。

如何在JavaScript中处理大数字

我正在寻找一个math解决scheme，处理真正（长，大，巨大，风暴）的数字。 我还没有find任何东西，但我不想这个问题在这个时候还没有解决。 我正在寻找一个简单的数字解决scheme，如Microsoft Excel Precision（十进制30）或BigInteger（Java）解决scheme。 在Javascript当然。

如何在C＃中hex和十进制之间的数字转换？

如何在C＃中的hex数字和十进制数字之间进行转换？

十进制与双精度！ – 我应该使用哪一个？

我不断看到人们在C＃中使用双打。 我知道我读了一些双打有时会失去精度的地方。 我的问题是什么时候应该使用一个double，什么时候应该使用一个十进制types？ 哪种types适合金钱计算？ （即超过1亿美元）

四舍五入至多2位小数（只在必要时）

我想最多舍入两位小数，但只有在必要的时候 。 input： 10 1.7777777 9.1 输出： 10 1.78 9.1 我怎样才能在JavaScript中做到这一点？

如何在Java中将数字四舍五入到小数点后n位

我想要的是一个方法来将double转换为使用half-up方法进行舍入的string，即，如果小数点要舍入为5，则它总是舍入到前一个数字。 这是大多数人在大多数情况下所期望的四舍五入的标准方法。 我也只想显示有效数字 – 即不应该有任何尾随零。 我知道一个这样做的方法是使用String.format方法： String.format("%.5g%n", 0.912385); 收益： 0.91239 这是很好的，但是它总是显示5位小数的数字，即使它们不显着： String.format("%.5g%n", 0.912300); 收益： 0.91230 另一种方法是使用DecimalFormatter ： DecimalFormat df = new DecimalFormat("#.#####"); df.format(0.912385); 收益： 0.91238 但是，正如你所看到的，这使用半双舍入。 如果前面的数字是偶数的话，那就是下降了。 我想要的是这样的： 0.912385 -> 0.91239 0.912300 -> 0.9123 在Java中实现这个最好的方法是什么？