预约成功
Python 爬虫工具列表
一、爬虫工具列表——网络爬虫框架
1、功能齐全的爬虫
grab - 网络爬虫框架(基于pycurl/multicur)。
scrapy - 网络爬虫框架(基于twisted)，不支持Python3。
pyspider - 一个强大的爬虫系统。
cola - 一个分布式爬虫框架。
2、其他
portia - 基于Scrapy的可视化爬虫。
restkit - Python的HTTP资源工具包。它可以让你轻松地访问HTTP资源，并围绕它建立的对象。
demiurge - 基于PyQuery的爬虫微框架。
二、爬虫工具列表——HTML/XML解析器
三、爬虫工具列表——文本处理
1、用于解析和操作简单文本的库。
unidecode - 将Unicode文本转为ASCII。
PLY - lex和yacc解析工具的Python实现。
pyparsing - 一个通用框架的生成语法分析器。
python-nameparser -解析人的名字的组件。
phonenumbers -解析，格式化，存储和验证国际电话号码。
python-user-agents - 浏览器用户代理的解析器。
HTTP Agent Parser - Python的HTTP代理分析器。
四、爬虫工具列表——特定格式文件处理
1、解析和处理特定文本格式的库。
tablib - 一个把数据导出为XLS、CSV、JSON、YAML等格式的模块。
textract - 从各种文件中提取文本，比如 Word、PowerPoint、PDF等。
messytables - 解析混乱的表格数据的工具。
rows - 一个常用数据接口，支持的格式很多(目前支持CSV，HTML，XLS，TXT – 将来还会提供更多!)。
python-docx - 读取，查询和修改的Microsoft Word2007/2008的docx文件。
xlwt / xlrd - 从Excel文件读取写入数据和格式信息。
XlsxWriter - 一个创建Excel.xlsx文件的Python模块。
xlwings - 一个BSD许可的库，可以很容易地在Excel中调用Python，反之亦然。
openpyxl - 一个用于读取和写入的Excel2010 XLSX/ XLSM/ xltx/ XLTM文件的库。
Marmir - 提取Python数据结构并将其转换为电子表格。
PyYAML - 一个Python的YAML解析器。
cssutils - 一个Python的CSS库。
sqlparse - 一个非验证的SQL语句分析器。
http-parser - C语言实现的HTTP请求/响应消息解析器。
opengraph - 一个用来解析Open Graph协议标签的Python模块。
pefile - 一个多平台的用于解析和处理可移植执行体(即PE)文件的模块。
psd-tools - 将Adobe Photoshop PSD(即PE)文件读取到Python数据结构。
五、爬虫工具列表——自然语言处理
1、处理人类语言问题的库。
NLTK -编写Python程序来处理人类语言数据的最好平台。
Pattern - Python的网络挖掘模块。他有自然语言处理工具，机器学习以及其它。
TextBlob - 为深入自然语言处理任务提供了一致的API。是基于NLTK以及Pattern的巨人之肩上发展的。
jieba - 中文分词工具。
SnowNLP - 中文文本处理库。
loso - 另一个中文分词库。
genius - 基于条件随机域的中文分词。
langid.py - 独立的语言识别系统。
Korean - 一个韩文形态库。
pymorphy2 - 俄语形态分析器(词性标注+词形变化引擎)。
PyPLN – 用Python编写的分布式自然语言处理通道。这个项目的目标是创建一种简单的方法使用NLTK通过网络接口处理大语言库。
六、爬虫工具列表——浏览器自动化与仿真
selenium - 自动化真正的浏览器(Chrome浏览器，火狐浏览器，Opera浏览器，IE浏览器)。
Ghost.py - 对PyQt的webkit的封装(需要PyQT)。
Spynner - 对PyQt的webkit的封装(需要PyQT)。
Splinter - 通用API浏览器模拟器(selenium web驱动，Django客户端，Zope)。
七、爬虫工具列表——多重处理
八、爬虫工具列表——异步
异步网络编程库
九、爬虫工具列表——队列
celery - 基于分布式消息传递的异步任务队列/作业队列。
huey - 小型多线程任务队列。
mrq - Mr. Queue – 使用redis & Gevent 的Python分布式工作任务队列。
RQ - 基于Redis的轻量级任务队列管理器。
simpleq - 一个简单的，可无限扩展，基于Amazon SQS的队列。
python-gearman - Gearman的Python API。
十、爬虫工具列表——云计算
picloud - 云端执行Python代码。
dominoup.com - 云端执行R，Python和matlab代码。
十一、爬虫工具列表——电子邮件
电子邮件解析库
flanker - 电子邮件地址和Mime解析库。
Talon - Mailgun库用于提取消息的报价和签名。
十二、爬虫工具列表——网址和网络地址操作
十三、爬虫工具列表——解析/修改网址和网络地址库。
1、URL
furl - 一个小的Python库，使得操纵URL简单化。
purl - 一个简单的不可改变的URL以及一个干净的用于调试和操作的API。
urllib.parse - 用于打破统一资源定位器(URL)的字符串在组件(寻址方案，网络位置，路径等)之间的隔断，为了结合组件到一个URL字符串，并将“相对URL”转化为一个绝对URL，称之为“基本URL”。
tldextract - 从URL的注册域和子域中准确分离TLD，使用公共后缀列表。
2、网络地址
netaddr – 用于显示和操纵网络地址的Python库。
十四、爬虫工具列表——网页内容提取
提取网页内容的库。
维基
WikiTeam - 下载和保存wikis的工具。
十五、爬虫工具列表——WebSocket
用于WebSocket的库。
十六、爬虫工具列表——DNS解析
dnsyo - 在全球超过1500个的DNS服务器上检查你的DNS。
pycares - c-ares的接口。c-ares是进行DNS请求和异步名称决议的C语言库。
十七、爬虫工具列表——计算机视觉
OpenCV - 开源计算机视觉库。
SimpleCV – 用于照相机、图像处理、特征提取、格式转换的简介，可读性强的接口(基于OpenCV)。
mahotas – 快速计算机图像处理算法(完全使用 C++ 实现)，完全基于 numpy 的数组作为它的数据类型。
十八、爬虫工具列表——代理服务器
shadowsocks – 一个快速隧道代理，可帮你穿透防火墙(支持TCP和UDP，TFO，多用户和平滑重启，目的IP黑名单)。
tproxy - tproxy是一个简单的TCP路由代理(第7层)，基于Gevent，用Python进行配置。
十九、爬虫工具列表——其他Python工具列表
awesome-python
pycrumbs
python-github-projects
python_reference
pythonidae
以上就是爬虫工具列表。可能在刚讲解完这一实际应用之后，大家的印象还很模糊，不如打开电脑，那正好现在就上手操作一下，试一试吧!也许你还会发现更多python应用为您带来的乐趣，环球网校的小编在这里希望这些信息可以对您有所帮助，也祝您学习之路顺利。
