Tag: 浮点

函数为'matrix是否包含值X？'

是否有一个内置的MATLAB函数来发现一个matrix是否包含一个特定的值？ （ala PHP的in_array() ）

使C浮点文字浮动（而不是双）

众所周知，在C中，浮点文字（例如1.23 ）具有doubletypes。 因此，任何涉及他们的计算都会提升一倍。 我正在开发一个embedded式实时系统，它有一个浮点单元，它只支持单精度float 。 我所有的variables都是float ，这个精度就足够了。 我根本不需要（也买不起）。 但每次都是这样 if (x < 2.5) … 写道，灾难发生：减速可能高达两个数量级。 当然，直接的答案是写 if (x < 2.5f) … 但这很容易错过（而且很难检测，直到太晚），特别是当一个“configuration”值被一个不太严格的（或者是新的）开发者在一个单独的文件中定义的时候。 那么，是否有办法强制编译器将所有（浮点）文字视为float，就像后缀f ？ 即使违反规范，我也不在乎。 还是其他解决scheme？ 顺便说一句，编译器是gcc。

如何在Python中压缩科学记数法？

这是我的代码： x = 1.0 y = 100000.0 print x/y 我的商数显示为1.00000e-05 有没有办法压制科学记数法，使其显示为0.00001 ？ 如何将科学记数法转换为float 。 提前致谢。 这有点可笑，但我还没有想出办法。 我将使用结果作为一个string。

JavaScript：舍入到小数位数，但是去掉额外的零

这里的情况是：我得到.9999999999999999当我应该得到1.0 。 我可以承受失去精度的小数位，所以我使用.toFixed(15) ，这是一种工作。 四舍五入的工作，但问题是，我给了1.000000000000000 。 有没有一种方法来四舍五入到小数位数，但剥去额外的空格？ 注意：。 .toPrecision度不是我想要的; 我只想指定小数点后的数字。 注2：我不能只使用.toPrecision(1)因为我需要保持高精度的数字实际上有小数点后的数据。 理想情况下，将有必要的小数位数（最多15个）。

是（x – x）对于双打总是正的零，或者有时是负的零？

当x是double +0.0 ， (x – x)保证为+0.0 ，或者有时可能为-0.0 （取决于x的符号）？

Java中的float是什么？

我写了这个代码： float b = 3.6; 我得到这个： 错误：未解决的编译问题： types不匹配：不能从double转换为float 为什么？ 什么是float的定义？

是一个整数除以自身保证是1.f？

如果我写： int x = /* any non-zero integer value */; float y = x; float z = y / y; z保证完全是1.f？

PHPstring浮动

我不熟悉PHP，并有一个快速的问题。 我有2个variables@pricePerUnit和@invoicedUnits。 以下是将这些设置为值的代码： $InvoicedUnits = ((string) $InvoiceLineItem->InvoicedUnits); $pricePerUnit = ((string) $InvoiceLineItem->PricePerUnit); 如果我输出这个，我得到正确的值。 可以说5000个发票单位和1.00的价格。 现在，我需要显示总花费。 当我将这两个数字相乘时，它不起作用（如预期的那样，这些是string）。 但我不知道如何在PHP中parsing/转换/转换variables。 我该怎么办？

如何将string转换为Perl中的数字？

我如何将一个string转换成Perl的数字值？

D为什么0.1 + 0.2 == 0.3？

assert(0.1 + 0.2 != 0.3); // shall be true 是我最喜欢的一个语言使用本机浮点运算的检查。 C ++ #include <cstdio> int main() { printf("%d\n", (0.1 + 0.2 != 0.3)); return 0; } 输出： 1 http://ideone.com/ErBMd python print(0.1 + 0.2 != 0.3) 输出： True http://ideone.com/TuKsd 其他例子 Java： http : //ideone.com/EPO6X C＃： http : //ideone.com/s14tV D为什么不是这样？ 理解D使用本地浮点数。 这是一个错误？ 他们是否使用一些具体的数字表示？ 别的东西？ 很迷惑。 d import […]