首页
注册
登录
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请
登录
推荐学习书目
›
Learn Python the Hard Way
Python Sites
›
PyPI
- Python Package Index
›
http://diveintopython.org/toc/index.html
›
Pocoo
值得关注的项目
›
PyPy
›
Celery
›
Jinja2
›
Read the Docs
›
gevent
›
pyenv
›
virtualenv
›
Stackless Python
›
Beautiful Soup
›
结巴中文分词
›
Green Unicorn
›
Sentry
›
Shovel
›
Pyflakes
›
pytest
Python 编程
›
pep8 Checker
Styles
›
PEP 8
›
Google Python Style Guide
›
Code Style from The Hitchhiker's Guide
V2EX
›
Python
Future 多线程用 urllib 抓取的优化
hunk
·
2021-02-17 11:29:37 +08:00
· 856 次点击
这是一个创建于 1409 天前的主题,其中的信息可能已经有所发展或是发生改变。
exsi 虚拟机分配 8 核 cpu,8G 内存。
Future 使用 8 线程,50 多万条链接,有些无效链接。
一下子添加任务,运行一段时间后会被因内存不足被杀死,无奈只好每隔 0.3 秒添加一个任务。
请问还有啥办法好优化提高速度不?
future
线程
EXSi
urllib
1 条回复
1
northisland
2021-02-18 13:42:28 +08:00
抓取的结果,放硬盘,还是内存?
关于
·
帮助文档
·
博客
·
API
·
FAQ
·
实用小工具
·
5347 人在线
最高记录 6679
·
Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 22ms ·
UTC 07:13
·
PVG 15:13
·
LAX 23:13
·
JFK 02:13
Developed with
CodeLauncher
♥ Do have faith in what you're doing.