推荐学习书目
› Learn Python the Hard Way
Python Sites
› PyPI - Python Package Index
› http://diveintopython.org/toc/index.html
› Pocoo
值得关注的项目
› PyPy
› Celery
› Jinja2
› Read the Docs
› gevent
› pyenv
› virtualenv
› Stackless Python
› Beautiful Soup
› 结巴中文分词
› Green Unicorn
› Sentry
› Shovel
› Pyflakes
› pytest
Python 编程
› pep8 Checker
Styles
› PEP 8
› Google Python Style Guide
› Code Style from The Hitchhiker's Guide
这是一个创建于 1986 天前的主题，其中的信息可能已经有所发展或是发生改变。
from decimal import Decimal
round(Decimal(0.123456789), 3) + Decimal(0.01) # out: Decimal('0.1330000000000000002081668171')
round(Decimal(0.123456789) + Decimal(0.01), 3) # out: Decimal('0.133')
测试环境 python 3.6.5 + ipython
:D
 |
1
nooper 2019-07-22 17:35:14 +08:00
不是 python 的坑，是所有计算机指令的问题。 你在好好查一下，有专门的文档 decimal round_up 等处理这个问题。
|
 |
2
chenstack 2019-07-22 17:36:49 +08:00  5
>>> round(Decimal('0.123456789'), 3) + Decimal('0.01')
Decimal('0.133') Decimal 初始化时不要传 float 类型，要传字符串，因为传 float 时，float 值本身就有精度丢失问题 >>> Decimal(0.01) Decimal('0.01000000000000000020816681711721685132943093776702880859375') >>> Decimal('0.01') Decimal('0.01') |
 |
3
lyy16384 2019-07-22 17:43:46 +08:00
我试了没有 round 也一样
Decimal(0.123) + Decimal(0.01) |
|
4
chenstack 2019-07-22 17:54:30 +08:00
Construct a new Decimal object. 'value' can be an integer, string, tuple, or another Decimal object. If no value is given, return Decimal('0'). The context does not affect the conversion and is only passed to determine if the InvalidOperation trap is active.
|
 |
5
XIVN1987 2019-07-22 18:01:44 +08:00
使用 decimal 不就是为了避免 float 的误差吗？
对 decimal 使用 round 不就把精确表示又带回了 float 的不精确表示了吗？ |
 |
6
jingniao 2019-07-22 18:05:26 +08:00 via Android
对 decimal round 有自己的函数
|
 |
7
djj510620510 OP |
|
8
XIVN1987 2019-07-22 18:15:38 +08:00
@djj510620510
抱歉，我看错了，，我以为是把 decimal 加法结果传给了 round，， |
|
9
djj510620510 OP @jingniao 还真是。。。。
|
|
10
djj510620510 OP @jingniao 但按照 python 设计理念，不是应该 Decimal 类里实现一个__round__吗，然后这个__round__的逻辑跟 decimal.round 的逻辑一样。
|
 |
11
hjq98765 2019-07-22 18:25:50 +08:00
我还是为是说 [四舍六入五成双]
|
|
12
djj510620510 OP @hjq98765 应该 JS 才会出现吧 /doge
|
 |
13
pkuphy 2019-07-22 19:27:21 +08:00
>>> round(1.5)
2 >>> round(2.5) 2 |
 |
14
kxiaong 2019-07-22 20:25:48 +08:00
`round(Decimal("0.123456789"), 3) + Decimal("0.01") #Decimal('0.133')`
``` from decimal import * getcontext().prec ``` 不是 decimal 的坑, 初始化 decimal 变量，推荐使用 string 或者在运算时手动指定 percesion |
 |
15
1iuh 2019-07-22 20:29:16 +08:00
初始化 decimal 别传浮点数进去
|
|
16
1iuh 2019-07-22 20:29:42 +08:00
另外 decimal 有自己 round 方法。
|
|
17
hjq98765 2019-07-22 21:40:06 +08:00
|
 |
18
azh7138m 2019-07-22 21:42:54 +08:00
|
 |
19
yushi17 2019-07-22 21:49:58 +08:00 via Android
|
 |
20
Marmot 2019-07-23 09:20:25 +08:00
因为你传进去的时候就不是精确的
|
Select Language