VC浮点数精度,该怎么解决
VC浮点数精度
请问将两个double类型的浮点数用> , <进行比较,可以比较到小数点后多少位?
这两个浮点数都已经很小,但是不会超过机械0(1.0e-324).
thx.
------解决方案--------------------
要求太高了,在运算多次后,double精度也就保持在小数点后6~10位左右。
即使long double也不会有太多改善。
------解决方案--------------------
还是转换思路吧,都搞成字符串去比较吧
请问将两个double类型的浮点数用> , <进行比较,可以比较到小数点后多少位?
这两个浮点数都已经很小,但是不会超过机械0(1.0e-324).
thx.
------解决方案--------------------
要求太高了,在运算多次后,double精度也就保持在小数点后6~10位左右。
即使long double也不会有太多改善。
------解决方案--------------------
还是转换思路吧,都搞成字符串去比较吧