在线咨询
eetop公众号 创芯大讲堂 创芯人才网
切换到宽版

EETOP 创芯网论坛 (原名:电子顶级开发网)

手机号码,快捷登录

手机号码,快捷登录

找回密码

  登录   注册  

快捷导航
搜帖子
查看: 2184|回复: 1

[求助] perl中数值计算问题求教

[复制链接]
发表于 2016-5-12 19:05:51 | 显示全部楼层 |阅读模式
100资产
请教大家,
我用perl来进行简单的减法运算,得到的结果有些不明白。
简单的描述是这样
my $AA = 5.200 - 2.260;
my $AAA = 1115.200 - 1112.260;
print "$AA\n";
print "$AAA\n";

得到结果:
2.94
2.94000000000005

请问这是为什么,又如何解决呢?

最佳答案

查看完整内容

浮点寄存器(16位)通常不能精确地存贮浮点数,从而产生误差。 #! usr/bin/perl use bignum; my $AA = 5.200 - 2.260; my $AAA = 1115.200 - 1112.260; print "$AA\n"; print "$AAA\n"; 结果正确。
发表于 2016-5-12 19:05:52 | 显示全部楼层
浮点寄存器(16位)通常不能精确地存贮浮点数,从而产生误差。
#! usr/bin/perl

use bignum;
my $AA = 5.200 - 2.260;
my $AAA = 1115.200 - 1112.260;
print "$AA\n";
print "$AAA\n";


结果正确。
您需要登录后才可以回帖 登录 | 注册

本版积分规则

关闭

站长推荐 上一条 /1 下一条

×

小黑屋| 关于我们| 联系我们| 在线咨询| 隐私声明| EETOP 创芯网
( 京ICP备:10050787号 京公网安备:11010502037710 )

GMT+8, 2024-3-29 19:22 , Processed in 0.019258 second(s), 8 queries , Gzip On, Redis On.

eetop公众号 创芯大讲堂 创芯人才网
快速回复 返回顶部 返回列表