rounding errors是什么意思

angela7197 1年前 已收到1个回答 举报

ingoodmood 幼苗

共回答了21个问题采纳率:85.7% 举报

舍入误差
由于计算机的字长有限,进行数值计算的过程中,对计算得到的中间结果数据要使用“四舍五入”或其他规则取近似值,因而使计算过程有误差.这种误差称为舍入误差.

1年前

1
可能相似的问题
Copyright © 2024 YULUCN.COM - 雨露学习互助 - 17 q. 0.054 s. - webmaster@yulucn.com