关于artMakeString（）函数使用后出现99999999的问题求助

BanKai · 发表于 2023-1-17 11:40:23

您需要登录才可以下载或查看，没有账号？注册

x

在第一张图中，X = 1.53
当用artMakeString（X）取string形式的值给gui使用时，artMakeString（X）= 152.9999999，程序如图二，结果如图三，求助大佬这是什么原因，如何解决，

annyzer · 发表于 2023-1-18 14:20:54

把 artMakeString 换成 pcExprToString 试试

BanKai · 发表于 2023-2-1 09:28:42

annyzer 发表于 2023-1-18 14:20
把 artMakeString 换成 pcExprToString 试试

感谢，已经成功解决了，方便问一下其中原因吗？

annyzer · 发表于 2023-2-1 15:24:24

老问题了，浮点数精度丢失。数字转字符串都用pcExprToString好了

BanKai · 发表于 2023-2-1 15:35:55

annyzer 发表于 2023-2-1 15:24
老问题了，浮点数精度丢失。数字转字符串都用pcExprToString好了

好的，谢谢

[求助] 关于artMakeString（）函数使用后出现99999999的问题求助