请问:两个double类型的整数做加减乘除运算会出现误差么
请教:两个double类型的整数做加减乘除运算会出现误差么?
有两个double类型的整数,比如1234567898765.0000和另外一个double类型的整数做加减乘除运算,会出现误差么?不考虑溢出
------解决方案--------------------
浮点数本来就不是精确的,出误差很正常。
浮点数的详细内容参见 IEEE754 或 《深入理解计算机系统》第二版,2.4节
------解决方案--------------------
会出现误差!但是影响运算与否啊,看你考虑的实际问题!
如果你想知道浮点型会不会有误差,那么答案是有误差。
如果想细致研究,那么你搜索,浮点型数据在计算机如何表示的相关知识查阅!似乎很多
------解决方案--------------------
有误差
浮点数比较相等 用两个数相减的结果和一个预定义精度比较 是大于还是小于
有两个double类型的整数,比如1234567898765.0000和另外一个double类型的整数做加减乘除运算,会出现误差么?不考虑溢出
------解决方案--------------------
浮点数本来就不是精确的,出误差很正常。
浮点数的详细内容参见 IEEE754 或 《深入理解计算机系统》第二版,2.4节
------解决方案--------------------
会出现误差!但是影响运算与否啊,看你考虑的实际问题!
如果你想知道浮点型会不会有误差,那么答案是有误差。
如果想细致研究,那么你搜索,浮点型数据在计算机如何表示的相关知识查阅!似乎很多
------解决方案--------------------
有误差
浮点数比较相等 用两个数相减的结果和一个预定义精度比较 是大于还是小于