关于在写pcell脚本时fix函数 计算很奇怪

zy1092155956

                               
登录/注册后可看大图

这个原因是什么呢？

着着着火了

0.06-0.01-0.05得到的结果是-5.20417e-18，并不是想象中的0.0
SKILL Language User Guide.pdf的第128页Floating_Point Issues中写了这个问题，原文如下：
Because IEEE floating-point numbers use what are essentially binary (base 2) fractions to represent real numbers, some functions that operate on floating-point numbers yield unexpected (and incorrect) results. There are some floating-point numbers that the computer cannot represent exactly as binary fractions. In these cases, the computer uses a binary (base 2) floating-point number to approximate your decimal (base 10) floating-point number. These approximations can lead to incorrect results for some functions that operate on floating-point numbers.

翻译后的意思如下：
因为IEEE浮点数本质上使用二进制(以2为基数)分数来表示实数，所以一些对浮点数进行操作的函数会产生意想不到的(和不正确的)结果。有些浮点数计算机不能精确地表示为二进制分数。在这些情况下，计算机使用二进制(以2为基数)浮点数来近似您的十进制(以10为基数)浮点数。对于某些操作浮点数的函数，这些近似可能导致不正确的结果。

翻译有可能不准确，但意思应该能看懂的吧。碰到浮点数的计算可得小心

金城黄

使用fix2

qw357

第一行由于浮点运算，实际会比0小

ljh065216

老问题了