Tag: 十进制
奇怪的C＃小数乘法行为
我注意到在C＃中乘以十进制值时出现了一个奇怪的行为。 考虑下面的乘法运算： 1.1111111111111111111111111111m * 1m = 1.1111111111111111111111111111 // OK 1.1111111111111111111111111111m * 2m = 2.2222222222222222222222222222 // OK 1.1111111111111111111111111111m * 3m = 3.3333333333333333333333333333 // OK 1.1111111111111111111111111111m * 4m = 4.4444444444444444444444444444 // OK 1.1111111111111111111111111111m * 5m = 5.5555555555555555555555555555 // OK 1.1111111111111111111111111111m * 6m = 6.6666666666666666666666666666 // OK 1.1111111111111111111111111111m * 7m = 7.7777777777777777777777777777 // OK 1.1111111111111111111111111111m * 8m = […]
我怎样才能转换小数？ 到十进制
可能是一个简单的问题，但我尝试所有的转换方法！ 它仍然有错误！ 你能帮我吗？ 十进制？ （可为空的十进制）为十进制
限制双精度到小数点后两位，不能有零
我读了这个和那个 。 我完全需要这个： 1.4324 =>“1.43” 9.4000 =>“9.4” 43.000 =>“43” 9.4 =>“9.40”（错误） 43.000 =>“43.00”（错误） 在这两个问题的答案指向NSNumberFormatter 。 所以应该很容易实现，但不适合我。 – (void)viewDidLoad { [super viewDidLoad]; UILabel *myLabel = [[UILabel alloc] initWithFrame:CGRectMake(50, 100, 200, 20)]; NSNumberFormatter *doubleValueWithMaxTwoDecimalPlaces = [[NSNumberFormatter alloc] init]; [doubleValueWithMaxTwoDecimalPlaces setNumberStyle:NSNumberFormatterDecimalStyle]; [doubleValueWithMaxTwoDecimalPlaces setPaddingPosition:NSNumberFormatterPadAfterSuffix]; [doubleValueWithMaxTwoDecimalPlaces setFormatWidth:2]; NSNumber *myValue = [NSNumber numberWithDouble:0.01234]; //NSNumber *myValue = [NSNumber numberWithDouble:0.1]; myLabel.text = [doubleValueWithMaxTwoDecimalPlaces […]
浮点精度是可变的还是不变的？
我不断得到浮点数（ float ， double float或long double float ）是否只有一个精度值，或精度值是否可变的混合答案。 浮点与双精度的一个主题似乎意味着浮点精度是绝对的。 然而，另一个名为float和double的区别说， 一般来说，double有15到16个十进制数字的精度 另有消息称， floattypes的variables通常具有约 7位有效数字的精度 doubletypes的variables通常具有大约 16位有效数字的精度 如果我正在处理敏感的代码，那么当我的值不准确时，我不喜欢引用上述近似值。 所以让我们直接logging下来。 浮点精度是可变的还是不变的，为什么？
我如何格式十进制属性到货币
我想在getter中格式化该值，并返回一个格式化的货币值。 这是可能的或者我需要将该属性声明为一个string，然后使用string.format。
C＃将一个双精度variables转换为十进制
这对于一些人来说似乎是一个愚蠢的问题，但我需要投入一个双倍到十进制作为货币。 M去哪了？ decimal dtot = (decimal)(doubleTotal);
Python十进制格式
用这种方法格式化一个python小数是一个好方法吗？ 1.00 – >'1' 1.20 – >'1.2' 1.23 – >'1.23' 1.234 – >'1.23' 1.2345 – >'1.23'
在C＃中将小数转换为双精度数会导致差异
问题总结： 对于一些十进制值，当我们将types从十进制转换为双精度时，一小部分被添加到结果中。 更糟的是，可以有两个“相等的”十进制值，这些值在转换时会导致不同的double值。 代码示例： decimal dcm = 8224055000.0000000000m; // dcm = 8224055000 double dbl = Convert.ToDouble(dcm); // dbl = 8224055000.000001 decimal dcm2 = Convert.ToDecimal(dbl); // dcm2 = 8224055000 double dbl2 = Convert.ToDouble(dcm2); // dbl2 = 8224055000.0 decimal deltaDcm = dcm2 – dcm; // deltaDcm = 0 double deltaDbl = dbl2 – dbl; // deltaDbl = […]
在Python中将string转换为带十进制的整数
我有一个在Python中的格式：'nn.nnnnn'的string，我想将其转换为一个整数。 直接转换失败： >>> s = '23.45678' >>> i = int(s) Traceback (most recent call last): File "<stdin>", line 1, in <module> ValueError: invalid literal for int() with base 10: '23.45678' 我可以将其转换为小数使用： >>> from decimal import * >>> d = Decimal(s) >>> print d 23.45678 我也可以拆分'。'，然后从零中减去小数，然后将其添加到整数… yuck。 但我宁愿把它作为一个整数，没有不必要的types转换或机动。
将string转换为十进制，保留分数
我试图将1200.00转换为decimal ，但Decimal.Parse()删除.00 。 我已经尝试了一些不同的方法，但它总是移除.00 ，除非我提供一个不同于0的分数。 string value = "1200.00"; 方法1 var convertDecimal = Decimal.Parse(value , NumberStyles.AllowThousands | NumberStyles.AllowDecimalPoint | NumberStyles.AllowCurrencySymbol); 方法2 var convertDecimal = Convert.ToDecimal(value); 方法3 var convertDecimal = Decimal.Parse(value, NumberStyles.AllowDecimalPoint, CultureInfo.InvariantCulture); 如何将包含1200.00的string转换为包含1200.00的decimal ？
