定点数计算，误差呈指数增大

xdf666 · 发表于 2024-1-7 17:37:06

您需要登录才可以下载或查看，没有账号？注册

x

各位前辈好！小弟最近写了一个定点数的DFT计算程序，发现最终结果不对。逐个比较计算过程的中间变量，发现定点数与对应理想浮点数值之间的差值，呈现指数增大的状态。如下图。

请问这是什么原因导致的呢，如何解决呢？

xdf666 · 发表于 2024-1-7 17:39:06

有没有前辈来指导一下啊

xdf666 · 发表于 2024-1-7 19:24:52

自己顶一下。

jiangnaner · 发表于 2024-1-7 20:37:21

帮忙顶

FTFCE · 发表于 2024-1-8 09:34:00

发错区了吧，怎么放在layout区，
这个不懂，帮忙顶

xdf666 · 发表于 2024-1-8 10:29:21

FTFCE 发表于 2024-1-8 09:34
发错区了吧，怎么放在layout区，
这个不懂，帮忙顶

啊，我不知道怎么指定帖子所在区哎。请问怎么把它移动到数字IC区？

FTFCE · 发表于 2024-1-9 16:52:43

xdf666 发表于 2024-1-8 10:29
啊，我不知道怎么指定帖子所在区哎。请问怎么把它移动到数字IC区？

发帖的时候会选择，你要不就另外再重新发一条

[求助] 定点数计算，误差呈指数增大