要说最美好的欲望莫过于看黑丝美眉。
一、技术路线
requests:网页请求
BeautifulSoup:解析html网页
re:正则表达式,提取html网页信息
os:保存文件
1 | javascript复制代码import re |
二、获取网页信息
获取网页信息的固定格式,返回的字符串格式的网页内容,其中headers参数可模拟人为的操作,‘欺骗’网站不被发现
1 | python复制代码def getHtml(url): #固定格式,获取html内容 |
三、网页爬取分析
右键单击图片区域,选择 审查元素 ,可以查看当前网页图片详情链接,我就满心欢喜的复制链接打开保存,看看效果,结果一张图片只有60几kb,这就是缩略图啊,不清晰,果断舍弃。。。
没有办法,只有点击找到详情页链接,再进行单独爬取。
空白右键,查看页面源代码,把刚刚复制的缩略图链接复制查找快速定位,分析所有图片详情页链接存在div标签,并且class=‘list’ 唯一,因此可以使用BeautifulSoup提取此标签。并且发现图片详情页链接在herf=后面(同时我们注意到有部分无效链接也在div标签中,观察它们异同,发现无效链接存在’https’字样,因此可在代码中依据此排出无效链接,对应第4条中的函数代码),只需提取出来再在前面加上网页首页链接即可打开,并且右键图片,‘审查元素’,复制链接下载的图片接近1M,表示是高清图片了,到这一步我们只需调用下载保存函数即可保存图片
四、网页详情页链接获取
首要目标是将每页的每个图片的详情页链接给爬取下来,为后续的高清图片爬取做准备,这里直接使用定义函数def getUrlList(url)
1 | python复制代码def getUrlList(url): # 获取图片链接 |
五、依据图片链接保存图片
通过上面获取了每个图片的详情页链接后,打开,右键图片审查元素,复制链接即可快速定位,然后保存图片
1 | python复制代码def fillPic(url,page): |
六、main()函数
经过前面的主体框架搭建完毕之后,对整个程序做一个前置化,直接上代码
在这里第1页的链接是
第2页的链接是
并且后续页面是在第2页的基础上仅改变最后的数字,因此在写代码的时候要注意区分第1页和后续页面的链接,分别做处理;同时在main()函数还增加了自定义爬取页数的功能,详见代码
1 | ini复制代码def main(): |
七、完整代码
最后再调用main(),输入需要爬取的页数,即可开始爬取,完整代码如下
1 | python复制代码import re |
**①兼职交流,行业咨询、大佬在线专业解答
②Python开发环境安装教程
③Python400集自学视频
④软件开发常用词汇
⑤Python学习路线图
⑥3000多本Python电子书**
如果你用得到的话可以直接拿走,点击领取。
到此这篇关于爬取网络黑丝美女高清图片的文章就介绍到这,感谢观看,希望给想学习的朋友有提供到作用,更多Python精彩内容可以看小编主页。
本文转载自: 掘金