浮点数运算有关问题求详细解答
浮点数运算问题求详细解答
为什么a,b输出的数据是一样的?
------解决方案--------------------
一个数n相对于另一个数m是无穷大, 那么m+n=m
------解决方案--------------------
浮点数运算时,
1。且忌两个绝对值相差太大的数值加减。
2。不要比较两个数值是否相等
------解决方案--------------------
float.h
- C/C++ code
main() {float a,b; a=123456.789e5; b=a+20; printf("%f\n",a); printf("%f\n",b); }
为什么a,b输出的数据是一样的?
------解决方案--------------------
一个数n相对于另一个数m是无穷大, 那么m+n=m
------解决方案--------------------
浮点数运算时,
1。且忌两个绝对值相差太大的数值加减。
2。不要比较两个数值是否相等
------解决方案--------------------
float.h
- C/C++ code
... #define DBL_DIG 15 /* # of decimal digits of precision */ #define DBL_EPSILON 2.2204460492503131e-016 /* smallest such that 1.0+DBL_EPSILON != 1.0 */ #define DBL_MANT_DIG 53 /* # of bits in mantissa */ #define DBL_MAX 1.7976931348623158e+308 /* max value */ #define DBL_MAX_10_EXP 308 /* max decimal exponent */ #define DBL_MAX_EXP 1024 /* max binary exponent */ #define DBL_MIN 2.2250738585072014e-308 /* min positive value */ #define DBL_MIN_10_EXP (-307) /* min decimal exponent */ #define DBL_MIN_EXP (-1021) /* min binary exponent */ #define _DBL_RADIX 2 /* exponent radix */ #define _DBL_ROUNDS 1 /* addition rounding: near */ #define FLT_DIG 6 /* # of decimal digits of precision */ #define FLT_EPSILON 1.192092896e-07F /* smallest such that 1.0+FLT_EPSILON != 1.0 */ #define FLT_GUARD 0 #define FLT_MANT_DIG 24 /* # of bits in mantissa */ #define FLT_MAX 3.402823466e+38F /* max value */ #define FLT_MAX_10_EXP 38 /* max decimal exponent */ #define FLT_MAX_EXP 128 /* max binary exponent */ #define FLT_MIN 1.175494351e-38F /* min positive value */ #define FLT_MIN_10_EXP (-37) /* min decimal exponent */ #define FLT_MIN_EXP (-125) /* min binary exponent */ #define FLT_NORMALIZE 0 #define FLT_RADIX 2 /* exponent radix */ #define FLT_ROUNDS 1 /* addition rounding: near */ ...
------解决方案--------------------
用10进制小数不能精确表示某些三进制小数0.1(3)=0.33333333333……(10)
同理,用二进制小数也不能精确表示某些10进制小数。