浮点数比较的一些问题
今天突然发现浮点数比较的诡异
看下面的代码
你觉得他 输出多少呢?我觉得大部分人觉得他是1.00000000吧,但结果是这样。
这说明,它计算a>b时是先把float型转换为int型比较,但是你输出浮点型,而int不能直接转化为float型,所以出现错误。加上强制转换就没问题了。
今天突然发现浮点数比较的诡异
看下面的代码
你觉得他 输出多少呢?我觉得大部分人觉得他是1.00000000吧,但结果是这样。
这说明,它计算a>b时是先把float型转换为int型比较,但是你输出浮点型,而int不能直接转化为float型,所以出现错误。加上强制转换就没问题了。