在线咨询
eetop公众号 创芯大讲堂 创芯人才网
切换到宽版

EETOP 创芯网论坛 (原名:电子顶级开发网)

手机号码,快捷登录

手机号码,快捷登录

找回密码

  登录   注册  

快捷导航
搜帖子
查看: 2643|回复: 1

[求助] skill求助!判断语句结果异常

[复制链接]
发表于 2016-8-26 11:50:14 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?注册

x
下面是我在icfb主窗口下按顺序运行的,每一条都有反馈的值,不解为何width值明明是0.4,类型也与0.4一样为浮点数,判断是否等于0.4时,结果却是nil,大于0.4为t ,真是奇怪呀;如果直接赋值0.4,判断后就为t。烦请知道原因的同仁解释一下看看

width=W1_width(bBox)=>0.4

type(width)
=>flomun

type(0.4)
=>flomun


width==0.4
=>nil

width>0.4
=>t

width<0.4
=>nil

width=0.4
width==0.4
=>t
发表于 2016-8-26 12:43:29 | 显示全部楼层
简单来说,两个浮点数请勿直接比较大小
详细请参考sklanguser.pdf
P128 Floating-Point Issues
P130 Comparing Floating-Point Numbers
您需要登录后才可以回帖 登录 | 注册

本版积分规则

关闭

站长推荐 上一条 /2 下一条

×

小黑屋| 手机版| 关于我们| 联系我们| 在线咨询| 隐私声明| EETOP 创芯网
( 京ICP备:10050787号 京公网安备:11010502037710 )

GMT+8, 2024-11-30 16:58 , Processed in 0.016348 second(s), 9 queries , Gzip On, Redis On.

eetop公众号 创芯大讲堂 创芯人才网
快速回复 返回顶部 返回列表