为什么计算结果本应该等于0的数却不为0呢

吊烧鸡屁股 · 发表于 2022-4-18 15:02:16

您需要登录才可以下载或查看，没有账号？注册

x

如何才能让他等于0呢

StevenYwh · 发表于 2022-4-18 16:20:05

总有点误差的，-17次方已经够小了，可以认为是0

吊烧鸡屁股 · 发表于 2022-4-18 16:34:09

StevenYwh 发表于 2022-4-18 16:20
总有点误差的，-17次方已经够小了，可以认为是0

确实但其实我是想写判断的，这本来就是判断成=0的地方结果还出现了个负数，导致我的判断语句失效了。理论上我可以修改一下判断条件，但还是想看看有没有办法让他等于0，那我判断的条件就没看起来这么奇怪了。

吊烧鸡屁股 · 发表于 2022-4-18 16:37:11

忘了说这是在virtuoso里面那个界面计算的

To70rO · 发表于 2022-4-18 18:59:07

写个判断函数呗，当a在某个区间时，a=0
图片.png

吊烧鸡屁股 · 发表于 2022-4-19 11:14:48

To70rO 发表于 2022-4-18 18:59
写个判断函数呗，当a在某个区间时，a=0

确实可以再判断一次哈哈谢谢老哥提醒

[求助] 为什么计算结果本应该等于0的数却不为0呢