内容介绍
《python网络数据采集》采用简洁强大的Python语言,介绍了网络数据采集,并为采集新式网络中的各种数据类型提供了全面的指导。第1部分重点介绍网络数据采集的基本原理:如何用Python从网络服务器请求信息,如何对服务器的响应进行基本处理,以及如何以自动化手段与网站进行交互。第二部分介绍如何用网络爬虫测试网站,自动化处理,以及如何通过更多的方式接入网络。书中不仅介绍了网络数据采集的基本原理,还深入探讨了更高级的主题,比如分析原始数据、用网络爬虫测试网站等。此外,书中还提供了详细的代码示例,以帮助你更好地理解书中的内容,全书非常适合熟悉Python的程序员、安全专业人士、网络管理员阅读。章节目录
译者序 ix 前言 xi 第一部分 创建爬虫 第1章 初见网络爬虫 2 1.1 网络连接 2 1.2 BeautifulSoup简介 4 1.2.1 安装BeautifulSoup 5 1.2.2 运行BeautifulSoup 7 1.2.3 可靠的网络连接 8 第2章 复杂HTML解析 11 2.1 不是一直都要用锤子 11 2.2 再端一碗BeautifulSoup 12 2.2.1 BeautifulSoup的find()和findAll() 13 2.2.2 其他BeautifulSoup对象 15 2.2.3 导航树 16 2.3 正则表达式 19 2.4 正则表达式和BeautifulSoup 23 2.5 获取属性 24 2.6 Lambda表达式 24 2.7 超越BeautifulSoup 25 第3 章 开始采集 26 3.1 遍历单个域名 26 3.2 采集整个网站 30 3.3 通过互联网采集 34 3.4 用Scrapy 采集 38 第4 章 使用API 42 4.1 API 概述 43 4.2 API 通用规则 43 4.2.1 方法 44 4.2.2 验证 44 4.3 服务器响应 45 4.4 Echo Nest 46 4.5 Twitter API 48 4.5.1 开始 48 4.5.2 几个示例 50 4.6 Google API 52 4.6.1 开始 52 4.6.2 几个示例 53 4.7 解析JSON 数据 55 4.8 回到主题 56 4.9 再说一点API 60 第5 章 存储数据 61 5.1 媒体文件 61 5.2 把数据存储到CSV 64 5.3 MySQL 65 5.3.1 安装MySQL 66 5.3.2 基本命令 68 5.3.3 与Python 整合 71 5.3.4 数据库技术与最佳实践 74 5.3.5 MySQL 里的“六度空间游戏” 75 5.4 Email 77 第6 章 读取文档 80 6.1 文档编码 80 6.2 纯文本 81 6.3 CSV 85 6.4 PDF 87 6.5 微软Word 和.docx 88 第二部分 高级数据采集 第7 章 数据清洗 94 7.1 编写代码清洗数据 94 7.2 数据存储后再清洗 98 第8 章 自然语言处理 103 8.1 概括数据 104 8.2 马尔可夫模型 106 8.3 自然语言工具包 112 8.3.1 安装与设置 112 8.3.2 用NLTK 做统计分析 113 8.3.3 用NLTK 做词性分析 115 8.4 其他资源 119 第9 章 穿越网页表单与登录窗口进行采集 120 9.1 Python Requests 库 120 9.2 提交一个基本表单 121 9.3 单选按钮、复选框和其他输入 123 9.4 提交文件和图像 124 9.5 处理登录和cookie 125 9.6 其他表单问题 127 第10 章 采集JavaScript 128 10.1 JavaScript 简介 128 10.2 Ajax 和动态HTML 131 10.3 处理重定向 137 第11 章 图像识别与文字处理 139 11.1 OCR 库概述 140 11.1.1 Pillow 140 11.1.2 Tesseract 140 11.1.3 NumPy 141 11.2 处理格式规范的文字 142 11.3 读取验证码与训练Tesseract 146 11.4 获取验证码提交答案 151 第12 章 避开采集陷阱 154 12.1 道德规范 154 12.2 让网络机器人看起来像人类用户 155 12.2.1 修改请求头 155 12.2.2 处理cookie 157 12.2.3 时间就是一切 159 12.3 常见表单安全措施 159 12.3.1 隐含输入字段值 159 12.3.2 避免蜜罐 160 12.4 问题检查表 162 第13 章 用爬虫测试网站 164 13.1 测试简介 164 13.2 Python 单元测试 165 13.3 Selenium 单元测试 168 13.4 Python 单元测试与Selenium 单元测试的选择 172 第14 章 远程采集 174 14.1 为什么要用远程服务器 174 14.1.1 避免IP 地址被封杀 174 14.1.2 移植性与扩展性 175 14.2 Tor 代理服务器 176 14.3 远程主机 177 14.3.1 从网站主机运行 178 14.3.2 从云主机运行 178 14.4 其他资源 179 14.5 勇往直前 180 附录A Python 简介 181 附录B 互联网简介 184 附录C 网络数据采集的法律与道德约束 188 作者简介 200 封面介绍 200
使用说明
1、下载并解压,得出pdf文件拼多多现金的玩法大家是不是很熟知了,身边也有不少的人提现成功了,但也有不少卡在了最后的0.01,那这个最后一个0.01需要多少人助力完成呢?能不能提现成功呢?下面就和小编一起来
黎明觉醒稳定枪托怎么获得?稳定枪托是一个很重要的枪械配件,因为很多枪械都是有后坐力的,后坐力会使枪械的操作难度提升,而且也会影响射击的准确率,而稳定枪托就是减少后坐力
黎明觉醒托腮板有什么用?游戏中有各种各样的枪械配件,托腮板就是其中一种,不过它是只能装在狙击枪上的一个配件,它的作用还是很大的。那么黎明觉醒中托腮板的作用是什么呢?还
黎明觉醒木头怎么得?木头是游戏中一种比较常见的资源,很多地方都需要用到木头,比如建造房子、升级家园、制作装备道具等,木头是可以通过采集获得的。那么黎明觉醒如何快速获得
战魂铭人近期更新了很多的装备,很多玩家都非常喜欢这款游戏,近日不少玩家都在讨论风火轮这个装备,很多玩家都想知道该通过什么方式来获得这个装备,今天就为大家带来关于这个方
黎明觉醒斗牛士载具怎么获得?斗牛士载具是一款摩托车,摩托车的安全系数相比起其他载具来说是会低一点,但是速度很快,而且可以欣赏沿途的风景,也是一个不错的选择。那么黎明觉
黎明觉醒浪潮载具怎么获得?浪潮是一款颜值较高的轿车载具,载具是十分方便的,玩家如果有需要可以随时召唤,不需要的话还可以随时收起来。那么黎明觉醒中浪潮载具的获得方法是什
黎明觉醒简易绷带怎么获得?简易绷带是最简单的一种回复血量的医疗用品,可以随身携带,制作也是非常简单的,不过它回复的血量是比较少的。那么黎明觉醒中简易绷带的制作方法是什
黎明觉醒托腮板怎么获得?托腮板是只适用于佩戴在狙击枪上面的一个配件,其他的枪械是不能佩戴的,不过它的作用也很大的,既可以减少后坐力还可以提升换弹速度。那么黎明觉醒中托
黎明觉醒中部平原资源有哪些?中部平原的玩法是什么呢?游戏中有很多不同类型的地图,每一张地图的环境天气不同,所以也就导致了资源的不同,那么中部平原的玩法是什么呢?还有很