Flex 简易计算器制作时的精度有关问题
Flex 简易计算器制作时的精度问题
本着学习的目的,做了个计算器,却发现精度问题,g了很久...先辈已经讨论过了,好像没有个很好的办法...
http://blog.csdn.net/thinker28754/archive/2009/06/10/4256840.aspx
想到java的精度...也一并转上来....让自己和有兴趣的童鞋一起备忘吧...
http://www.cnblogs.com/xitang/archive/2011/01/18/1938563.html
发现一个怪现象，在java开发中。2.0-1.1 =0.8999999999.这是怎么回事呢？
查阅资料得知，浮点数值采用二进制系统表示，而在二进制系统中无法精确的表示分数1/10。这就好像十进制无法精确的表示1/3一样。如果需要在数值计算中不含有任何舍入误差，就应该使用BigDecimal和BigInteger类。
BigDecimal用来实现任意精度的浮点数运算。
BigInteger用来实现任意精度的整数运算。
例子：
本着学习的目的,做了个计算器,却发现精度问题,g了很久...先辈已经讨论过了,好像没有个很好的办法...
http://blog.csdn.net/thinker28754/archive/2009/06/10/4256840.aspx
想到java的精度...也一并转上来....让自己和有兴趣的童鞋一起备忘吧...
http://www.cnblogs.com/xitang/archive/2011/01/18/1938563.html
引用
发现一个怪现象，在java开发中。2.0-1.1 =0.8999999999.这是怎么回事呢？
查阅资料得知，浮点数值采用二进制系统表示，而在二进制系统中无法精确的表示分数1/10。这就好像十进制无法精确的表示1/3一样。如果需要在数值计算中不含有任何舍入误差，就应该使用BigDecimal和BigInteger类。
BigDecimal用来实现任意精度的浮点数运算。
BigInteger用来实现任意精度的整数运算。
例子：
BigDecimal a = BigDecimal.valueOf(2.0); BigDecimal b = BigDecimal.valueOf(1.1); System.out.println(a.subtract(b));