skil fix 使用

wenjian07

使用fix的时候遇到这样的问题，请指教：

我提取两个layer交互的坐标为
box=((252.79 -85.92) (262.28 -75.92))

ll=xCoord(upperRight(box))-xCoord(lowerLeft(box))=>9.49

aa=ll-0.17-0.62=8.7

bb=aa/0.87=>10.0

columns=fix(bb)=>9

fix(10.0)=>10

这是怎么回事，不解，请大侠们帮忙

cbhvjd

Skill 中的浮点数类似C 语言中的double 类型， 是双精度浮点数，可以用直接的十
进制或科学计数法表示。每个浮点数占8 个字节（64 比特），完全遵守IEEE754 号规范
（52M/11E/1S），其中52 个比特用于表示底，11 个比特用于表示指数（可表示的范围
大约是正负10 的308.25次方）， 剩下的一个比特表示符号。
    因此浮点值只能有52 位精度，类似这样的值的二进制表示只能象上面那样被截断。0.1 的二进制表0.11001100110011 . . .因为最接近的二进制表示就是.0001100110011...或 1/16 +1/32 + 1/256 + . . .
在Skill中，我们尽量用一个小的增量来计算获得一个整数。 比如：columns = fix( bb + 1e-8 )