求教一个除法精度的问题

newwalkman · 发表于 2009-10-25 17:30:25

您需要登录才可以下载或查看，没有账号？注册

x

有一个公式：（Ａ＊Ｂ）／Ｃ；截断除法．
为了实现硬件的统一结构，我需要把公式变成Ａ＊（Ｂ／Ｃ）．
但这样就会带来精度误差，
举例说明：（７＊３）／２＝１０；７＊（３／２）＝７；
请教高手门，有没有什么方法来避免或者改善这种状况呢？

travis250 · 发表于 2011-4-7 19:44:56

（７＊３）／２＝１０；７＊（３／２）＝７；
我觉得可以这样：
因为我们用（７＊３）／２＝１０；
a = 3/2;
b = 3%2;
（７＊３）／２ = 7*a+7*b/2

JD.WARLOCK · 发表于 2011-4-7 20:09:06

等待高手

MOSFET · 发表于 2011-4-7 20:19:10

这个与你的定点有关。
为了提高精度，可以用多bit来表示除法的结果
比如用两位表示整数，6位表示小数部分，具体位宽根据你的设计而定
可以看看如何定点的相关资料

站长推荐 /2