带伙伴们学习python爬虫,准备了几个简单的入门实例,分享给大家。
涉及主要知识点:
- web是如何交互的
- requests库的get、post函数的应用
- response对象的相关函数,属性
- python文件的打开,保存
代码中给出了注释,并且可以直接运行哦 如何安装requests库(安装好python的朋友可以直接参考,没有的,建议先装一下python环境)
windows用户,Linux用户几乎一样: 打开cmd输入以下命令即可,如果python的环境在C盘的目录,会提示权限不够,只需以管理员方式运行cmd窗口
Linux用户类似(ubantu为例): 权限不够的话在命令前加入sudo即可
1、爬取强大的BD页面,打印页面信息
2、常用方法之get方法实例,下面还有传参实例
3、常用方法之post方法实例,下面还有传参实例
4、put方法实例
5、常用方法之get方法传参实例(1)
如果需要传多个参数只需要用&符号连接即可如下:
6、常用方法之get方法传参实例(2)
params用字典可以传多个
7、常用方法之post方法传参实例(2) 和上一个有没有很像
8、关于绕过反爬机制,以zh爸爸为例
9、爬取信息并保存到本地
因为目录关系,在D盘建立了一个叫做爬虫的文件夹,然后保存信息
注意文件保存时的encoding设置
微信搜索公众号:架构师指南,回复:架构师 领取资料 。
10、爬取图片,保存到本地
需要资料的朋友可以看文末
我们把Python的所有知识点,都穿插在了漫画里面。
你就像漫画的主人公一样,穿越在剧情中,通关过坎,不知不觉完成知识的学习。