0
2.3.1安装requests库30
2.3.2爬虫的基本原理32
2.3.3使用GET方式抓取数据.33
2.3.4使用POST方式抓取数据..34
2.4使用BeautifulSoup解析网页37
2.5清洗和组织数据.41
2.6爬虫攻防战42
2.7关于什么时候存储数据.45
2.8习题45
第3章用API爬取天气预报数据.48
3.1注册免费API和阅读技术文档.48
3.2获取API数据50
3.3存储数据到MongoDB55
3.3.1下载并安装MongoDB.55
3.3.2在PyCharm中安装MongoPlugin.56
3.3.3将数据存入MongoDB中59
3.4MongoDB数据库查询61
3.5习题64
第4章大型爬虫案例:抓取某电商网站的商品数据.65
4.1观察页面特征和解析数据.65
4.2工作流程分析74
4.3构建类目树75
4.4获取景点产品列表78
4.5代码优化.80
4.6爬虫效率优化..84
4.7容错处理.87
4.8习题87
第5章采集手机App数据.89
5.1模拟器及抓包环境配置.89
5.2App数据抓包..93
5.3手机App数据的采集95
5.4习题96
第6章Scrapy爬虫.98
6.1Scrapy简介98
6.2安装Scrapy99
6.3案例:用Scrapy抓取股票行情.100
6.4习题.108
第7章Selenium爬虫109
7.1Selenium简介109
7.2安装Selenium111
7.3Selenium定位及操作元素.111
7.4案例:用Selenium抓取某电商网站数据.114
7.5习题.122
第8章爬虫案例集锦124
8.1采集外卖平台数据.124
8.1.1采集目标124
8.1.2采集代码126
8.2采集内容平台数据.127
8.2.1采集目标127
8.2.2采集代码129
8.3采集招聘平台数据.130
8.3.1采集目标130
8.3.2采集代码132
8.4采集知识付费平台数据..133
8.4.1采集目标133
8.4.2采集代码136
第9章数据库连接和查询137
9.1使用PyMySQL.137
9.1.1连接数据库..137
9.1.2案例:某电商网站女装行业TOP100销量数据139
9.2使用SQLAlchemy..141
9.2.1SQLAlchemy基本介绍.141
9.2.2SQLAlchemy基本语法.142
9.3MongoDB.144
9.3.1MongoDB基本语法144
9.3.2案例:在某电商网站搜索“连衣裙”的商品数据145
9.4习题.146
第10章NumPy数组操作148
10.1NumPy简介148
10.2一维数组149
10.2.1数组与列表的异同149
10.2.2数组的创建150
10.3多维数组151
10.3.1多维数组的高效性能151
10.3.2多维数组的索引与切片152
10.3.3多维数组的属性和方法153
10.4数组的运算..154
10.5习题155
第11章pandas数据清洗158
11.1数据读写、选择、整理和描述.158
11.1.1从CSV中读取数据160
11.1.2向CSV中写入数据161
11.1.3数据选择.161
11.1.4数据整理.163
11.1.5数据描述.164
11.2数据分组、分割、合并和变形.165
11.2.1数据分组.165
11.2.2数据分割.168
11.2.3数据合并.169
11.2.4数据变形.175
11.2.5案例:旅游数据的分析与变形177
11.3缺失值、异常值和重复值处理.181
11.3.1缺失值处理181
11.3.2检测和过滤异常值184
11.3.3移除重复值187
11.3.4案例:旅游数据值的检查与处理.189
11.4时序数据处理.192
11.4.1日期/时间数据转换192
11.4.2时序数据基础操作193
11.4.3案例:天气预报数据分析与处理.195
11.5数据类型转换.199
11.6正则表达式201
11.6.1元字符与限定符.201
11.6.2案例:用正则表达式提取网页文本信息.202
11.7习题203
第12章综合应用实例206
12.1按性价比给用户推荐旅游产品.206
12.1.1数据采集.207
12.1.2数据清洗、建模.211
12.2通过热力图分析为用户提供出行建议.213
12.2.1某旅游网站热门景点爬虫代码..217
12.2.2提取CSV文件中经纬度和销量信息.220
12.2.3创建景点门票销量热力图HTML文件221
第13章数据可视化.224
13.1应用matplotlib画图225
13.1.1画出各省份平均价格、各省份平均成交量柱状图225
13.1.2画出各省份平均成交量折线图、柱状图、箱形图和饼图227
13.1.3画出价格与成交量的散点图228
13.2应用pyecharts画图228
13.2.1Echarts简介228
13.2.2pyecharts简介229
13.2.3初识pyecharts,玫瑰相送229
13.2.4pyecharts基本语法230
13.2.5基于商业分析的pyecharts图表绘制.232
13.2.6使用pyecharts绘制其他图表.242
13.2.7pyecharts和Jupyter245
13.3习题246