pcell表达式中出现的问题

dddogda · 发表于 2023-2-2 14:38:25

本帖最后由 dddogda 于 2023-2-2 14:40 编辑

登录/注册后可看大图

在绘制pcell时，结果总是和预想的有些偏差，查看表达式也没错，但是把这些公式在CIW窗口输出时，发现当Value=某个表达式，而这个表达式的值为45.0，经过fix()函数运算后结果却为44，而手动输入fix(45.0)，结果才是45。这是为什么呢？

Quinn714 · 发表于 2023-2-2 14:38:26

本帖最后由 wx148520 于 2023-2-3 16:18 编辑

应该fix函数传递浮点数运算出现问题，不过skill也给出了解决办法，你可以参考一下

登录/注册后可看大图

dddogda · 发表于 2023-2-2 15:02:34

顺便提问一下，运算表达式什么情况会出现一些bug呢？比如有时候会出现类似于c语言中0.1+0.2≠0.3精度丢失的问题

xdf666 · 发表于 2023-2-2 15:55:45

不懂帮顶

Quinn714 · 发表于 2023-2-3 16:26:13

如果你确定结果是整数的话最后传递之前强制转成整数应该也可以

dddogda · 发表于 2023-2-6 17:52:04

本帖最后由 dddogda 于 2023-2-6 17:54 编辑

wx148520 发表于 2023-2-3 16:08
应该fix函数传递浮点数运算出现问题，不过skill也给出了解决办法，你可以参考一下

...

谢谢解答。按照这个方法，用real_fix()代替fix()，并且在使用之前load一下real_fix函数的skill文件确实可以解决。但是还有一个问题就是我做的pcell中如果调用了real_fix函数，别人使用我的pcell就要事先load这个skill文件，我想有点麻烦，有没有什么更好的解决方法呢？或者说如何直接将这个函数写入pcell里？

Quinn714 · 发表于 2023-2-8 10:27:57

本帖最后由 wx148520 于 2023-2-8 11:27 编辑

dddogda 发表于 2023-2-6 17:52
谢谢解答。按照这个方法，用real_fix()代替fix()，并且在使用之前load一下real_fix函数的skill文件确实可 ...

不好意思，skill相关的我也是刚学习，如果你需要做函数处理的值是4.5*100而不是4.5*1.2这种运算，用fix2这个函数也能解决

登录/注册后可看大图

[求助] pcell表达式中出现的问题

最佳答案

站长推荐 /2