电子工程师技术服务社区

公告

登录 | 注册

首页

已解决 73482 个问题
已帮助 5993 位优秀工程师

浮点数在运算的时候是否会损失数据的精度

YN的专注 2020-04-13 浏览量：932

浮点数在运算的时候是否会损失数据的精度

单片机

0 0 收起

我来回答

最佳答案

Alexis
浮点数在运算的时候是会损失一定的精度的，因为对于浮点数运算，最后是用二进制的方式来运算处理，这个过程必然会导致精度的损失
- 发布于 2020-04-13
- 举报
- 评论 0
- 0
- 0

其他答案数量：4

xdsnet
这个纵观整个浮点数计算处理，可能会有数据精度损失，但具体也要看这些损失的部分是否会影响应用。
- 发布于2020-04-13
- 举报
- 评论 0
- 0
- 0

明有几时有
是会有的，就算是FPU支持，也是有损失的，毕竟是二进制的处理计算
- 发布于2020-04-13
- 举报
- 评论 0
- 0
- 0

hehung
浮点数运算一般都是会损失精度的，但是对于一般的系统，精度要求都不会太高，所以损失的精度也无所谓
- 发布于2020-04-13
- 举报
- 评论 0
- 0
- 0

一笔之名也
浮点数在运算的过程中，也要按2进制进行运算，而2进制中没有浮点数，所以，都是要转换成整数的，这样一转换，就有损失了
- 发布于2020-04-13
- 举报
- 评论 0
- 0
- 0

相关问题

问题达人换一批

文章 知识经验换现金

换一批