【答疑】浮点型运算,精度不正确导致测试用例失败,要如何处理?

【问题描述】:
浮点型加法运算,-0.1+(-0.2)=-0.30000000000000004,精度不正确,导致测试用例执行失败,测试结果如下:

这种情况要怎么处理???

判断,如果是浮点数计算,使用round()函数,保留1位小数

关闭