int变量运算过程中的常见问题及方法 int变量运算过程中的常见问题及方法
int变量运算过程中可能遇到的问题
例:
1.声明变量a,b并赋值,计算a/b*100和a*100/b的值.
上面程序计算了a/b*100和a*100/b的结果分别是0和50
2.声明变量a,计算a*10/10和a/10*10的值.
上面显示程序计算的结果分别是123和120
进一步试验分析原因,
结果:int类型的变量在进行运算时每一步运算结束都会进行一次取整操作,再进行后面的运算,这就导致了运算过程中的精度的损失,
所以建议当声明的变量在后面的运算过程中可能会遇到有小数的情况时可以使用double。
int变量运算过程中可能遇到的问题
例:
1.声明变量a,b并赋值,计算a/b*100和a*100/b的值.
上面程序计算了a/b*100和a*100/b的结果分别是0和50
2.声明变量a,计算a*10/10和a/10*10的值.
上面显示程序计算的结果分别是123和120
进一步试验分析原因,
结果:int类型的变量在进行运算时每一步运算结束都会进行一次取整操作,再进行后面的运算,这就导致了运算过程中的精度的损失,
所以建议当声明的变量在后面的运算过程中可能会遇到有小数的情况时可以使用double。