1.2-1.0=0.19?Python中不可思议的错误,原来是浮点数计算的陷阱。

举报
程序员晚枫 发表于 2022/07/10 01:01:03 2022/07/10
【摘要】 计算精度,需要格外注意

我们先来看一个不可思议的错误:1.2-1.0=0.19999999999999996

这是一个常见的错误,你遇到过吗?今天我们就一起来分析一下:

  • 原因是什么?
  • 如何得到正确的运算?
  • python中还有哪些意想不到的错误?

先说原因

如果你对计算机毫无了解,你可以跳过这部分,直接去看下一小节:如何得到正确的运算。

这是因为浮点数运算的特殊性决定的,其它编程语言也有这个问题。

Python的官方解释器CPython(也就是你下载到电脑上的Python安装包的源码) 中的 float 类型使用C语言的 double 类型进行存储。float 对象的值是以固定的精度(通常为 53 位)存储的二进制浮点数,由于 Python 使用 C 操作,而后者依赖于处理器中的硬件实现来执行浮点运算。

**简单来说,许多可以轻松地用十进制表示的数字不能用二进制浮点表示。**1.2在电脑上存储的值实际值是:1.1999999999999999555910790149937383830547332763671875

怎么解决?

知道了原因,如何得到正确的结果呢?

不然语法知道一大堆,还是写不好代码;就像道理明白一大堆,依然过不好这一生一样悲哀。

解决方法:使用python内置的decimal模块

from decimal import Decimal

a = Decimal('1.2')
b = Decimal('1.0')
print(a - b)  # Decimal('0.2')

# 输出结果:0.2

这种方法的好处是精确计算,但也有一个坏处:影响计算速度。适用于你认为精度大于效率的时候,例如:金融行业。

还有哪些常见错误?

之前给大家整理过2期:

欢迎大家把你遇到的错误,在评论区和我讨论哟~


【声明】本内容来自华为云开发者社区博主,不代表华为云及华为云开发者社区的观点和立场。转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。