MSP430中的浮点除法的问题

vipjph · 发表于 2012-11-15 22:13:55

您需要登录才可以下载或查看，没有账号？注册

x

我在用MSP430F5172过程中，发现一个问题，X=118.0 /201=5.8706(实际值应该是0.58706467)，这是为什么呢？

waterman_w · 发表于 2013-6-17 17:21:57

难道发现一个bug 但是这样的bug应该不会有吧，只有边界处理容易，你把它转换成浮点格式，想想可能出现问题的地方

[资料] MSP430中的浮点除法的问题