计算一/1600，精确到小数点后50位，看看错在哪了

分类: IT文章 • 2023-03-31 11:54:21

计算1/1600，精确到小数点后50位，看看错在哪了
计算一/1600，精确到小数点后50位，看看错在哪了

------解决思路----------------------
是Math.pow(double,double)的问题，在指数为23的时候，返回值有误差：
1.0000000000000001E23