正文

手把手带你爬取小姐姐私房照，准备好你的纸！(代码片段)

鳌拜的表格熬夜  鳌拜的表格熬夜  2022-12-11  814

关键词：

如何用Python搞到小姐姐私房照

本文纯技术角度出发，教你如何用Python爬虫获取百度图库海量照片——技术无罪。

学会获取小姐姐私房照同理可得也能获取其他的照片，技术原理是一致的。

目标站点

百度图片使用关键字搜索 小姐姐私房照

https://image.baidu.com/

开发环境

系统：Windows10 64位
Python版本：Python3.6.5(Python3以上版本即可)
IDE：Pycharm（非必须，其实你完全可以记事本写代码）
第三方库：requests、jsonpath

效果预览

网页私房照

代码爬取效果

正式教程

一、第三方库安装

在确保你正确安装了Python解释器之后，我们还需要安装几个第三方库，命令如下**[在终端中安装即可]**：

HTTP请求库：

pip3 install requests

JSON数据解析库：

pip3 install jsonpath

二、爬虫的基本套路

不管是爬取哪类网站，在爬虫中基本都遵循以下的基本套路：

请求数据 → 获取响应内容 → 解析内容 → 保存数据
当然，以上步骤是代码的编写思路，实际操作中应该还要添加一个前置步骤，所以完整流程如下：

分析目标站点 → 请求网站获取数据 → 解析内容 → 保存数据

分析目标站点

快速的分析目标站点就很容易发现百度图库的图片资源是通过AJAX加载的，所以我们要请求的链接并非浏览器地址栏链接，而是ajax加载的数据包的资源路径，如图：

那么问题来了，如何获取到这些数据包的地址？其实很简单，如图所示：

请求网站获取数据

编写代码请求资源，这里有一点需要注意：请求头必须携带，否则有可能请求失败导致报错。

import requests  # 导包

# 构建请求头，把爬虫程序伪装成正常的浏览器用户
headers = 
    'sec-fetch-dest': 'image',
    'Host': 'image.baidu.com',
    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/89.0.4389.82 Safari/537.36 Edg/89.0.774.50',

# 资源包的url链接
url = 'https://image.baidu.com/search/acjson?tn=resultjson_com&logid=10913526997707526921&ipn=rj&ct=201326592&is=&fp=result&queryWord=%E5%B0%8F%E5%A7%90%E5%A7%90%E7%A7%81%E6%88%BF%E7%85%A7&cl=2&lm=-1&ie=utf-8&oe=utf-8&adpicid=&st=-1&z=&ic=&hd=&latest=&copyright=&word=%E5%B0%8F%E5%A7%90%E5%A7%90%E7%A7%81%E6%88%BF%E7%85%A7&s=&se=&tab=&width=&height=&face=0&istype=2&qc=&nc=1&fr=&expermode=&force=&pn=210&rn=30&gsm=d2&1616553658252='

# 构建请求
response = requests.get(url,headers=headers)
# 查看状态码
print(response.status_code)
# 获取原始数据
response.json()

解析数据

上述代码最终获取到的数据是json数据，也就是我们Python中常说的字典，它长这样：


    "queryEnc":"%D0%A1%BD%E3%BD%E3%CB%BD%B7%BF%D5%D5",
    "queryExt":"小姐姐私房照",
    "listNum":758,
    "displayNum":8392,
    "gsm":"f0",
    "bdFmtDispNum":"约8,390",
    "bdSearchTime":"",
    "isNeedAsyncRequest":0,
    "bdIsClustered":"1",
    "data":[
        Object...,   # 没张私房照对应的详细信息，其中就有图片的URL 
        Object...,
        ···

既然它是一个字典，我们当然是可以使用Python中的键值索引方式获取到想要的数据，但是此方法太笨，这里介绍一种更加高明的方式，使用jsonpath解析数据

# 这一行代码便可以获取到所有图片的URL，返回的是一个列表，遍历即可拿到每一个URL
imgs = jsonpath.jsonpath(json_data, '$..middleURL')

使用requests请求图片URL，获取图片数据

image_data = requests.get(page_url).content

保存数据

使用Python中的文件对象，保存图片，图片名字使用时间戳命名，避免图片重名

with open('imgs/' + datetime.now().strftime("%Y%m%d%H%M%S%f") + '.jpg', 'wb') as f:
     f.write(image_data)

写在最后

到这整个儿爬虫程序就写完了。

当然，当前的这个只能爬取一个资源包中的数据，要爬取多个资源包或者说全部资源包的数据也是很简单的，只需要分析分析资源包的URL变化规律就不难发现其中的某个关键字变化，灵活改变该关键字就可以不断爬取。

两万字零基础爬虫requests初阶教程，手把手教你爬数据（建议收藏）(代码片段)

文章目录一、环境与工具二、学爬虫必备知识三、requests体验四、get请求3.1基础讲解一3.3基础讲解二3.2基础讲解三3.4获取cookie3.5获取请求头3.6添加请求头3.5知乎爬取+反扒技术3.6抓取二进制数据3.6.1示例一3.6.2示例二3.7美女私房... 查看详情

python爬虫手把手带你爬下肯德基官网（ajax的post请求）(代码片段)

准备工作查看肯德基官网的请求方法：post请求。X-Requested-With:XMLHttpRequest判断得肯德基官网是ajax请求通过这两个准备步骤，明确本次爬虫目标：ajax的post请求肯德基官网获取上海肯德基地点前10页。分析获取上海肯德... 查看详情

手把手教你爬取天堂网1920*1080大图片（批量下载）——理论篇(代码片段)

/1前言/平时我们要下载图片，要要一个一个点击下载是不是觉得很麻烦？那有没有更加简便的方法呢？答案是肯定的，这里我们以天堂网为例，批量下载天堂网的图片。/2项目准备工作/首先我们第一步我们要安装一个pycham的软件... 查看详情

手把手教你爬取天堂网1920*1080大图片（批量下载）——理论篇(代码片段)

爬虫经典教学，爬取小姐姐图片，太好看了！

...妙想写了个爬虫教程，给大家送点福利，教大家爬取某站的小姐姐高清图片。（嘿嘿~我可能是个老se批，其实女生真的比男生更喜欢看美女）先说好啊，技术无罪；这只是一个小案例教大家方法，... 查看详情

手把手教你爬取天堂网1920*1080大图片（批量下载）——实战篇(代码片段)

/1前言/上篇文章手把手教你爬取天堂网1920*1080大图片（批量下载）——理论篇我们谈及了天堂网站图片抓取的理论，这篇文章将针对上篇文章的未尽事宜进行完善，完成图片的批量抓取。/2图片网址解析/1.我们首先来分析一下这... 查看详情

手把手教你爬取天堂网1920*1080大图片（批量下载）——实战篇(代码片段)

scrapy爬虫爬取小姐姐图片（不羞涩）

这个爬虫主要学习scrapy的itemPipeline是时候搬出这张图了：当我们要使用itemPipeline的时候，要现在settings里面取消这几行的注释我们可以自定义ItemPipeline，只需要实现指定的方法，其中必须要实现的一个... 查看详情

合肥工业大学python大作业之爬虫（手把手教你爬取微博热搜）(代码片段)

一、题目要求二、题目分析 1、对爬虫的概述 2、爬取信息的基本流程不管是通用的网络爬虫还是聚焦性爬虫，其实爬取网页并且获取信息大概按顺序分为以下一些步骤：（1）选择... 查看详情

5行代码带你爬取“2021福布斯排行榜“，看看中国都有哪些人？(代码片段)

今天是2021年8月20号，晚上坐在家里面，突然看到了2021福布斯排行榜的新闻。于是有感而发，写了这篇文章。新闻：排行榜123网富豪频道为您提供2021年福布斯富豪榜，榜单包括2021世界首富排行榜，以及全... 查看详情

5行代码带你爬取“2021福布斯排行榜“，看看中国都有哪些人？(代码片段)

手把手教你爬取天堂网1920*1080大图片（批量下载）——实战篇(代码片段)

python最简单的图片爬虫，20行代码带你爬遍整个网站(代码片段)

前言网络上的信息很多，有的时候我们需要关键字搜索才可以快速方便的找到我们需要的信息。今天我们实现搜索关键字爬取堆糖网上相关的美图，零基础学会通用爬虫，当然我们还可以实现多线程爬虫，加快爬虫爬取速度... 查看详情

5行代码带你爬取"2021福布斯排行榜"，看看中国都有谁上榜？(代码片段)

今天晚上坐在家里面，突然看到了2021福布斯排行榜的新闻。于是有感而发，写了这篇文章。新闻：排行榜123网公布了2021年福布斯富豪榜，榜单包括2021世界首富排行榜，以及全球各个国家富豪排名。目前杰夫·... 查看详情

python爬取《哆啦a梦-伴我同行2》影评，手把手带你绘制词云图！(代码片段)

本文简介本文禁止他人转载，如有侵权，严肃对待！《哆啦A梦：伴我同行2》是纪念《哆啦A梦》50周年的作品之一，于2021年5月28日在中国内地上映。哆啦A梦系列，是陪伴我，乃至陪伴了几代人成长的故... 查看详情

手把手带你搞定c语言实现三子棋游戏，让你的代码有趣起来（超详细教程，从思路到代码，快码起来！）(代码片段)

【手把手带你搞定】C语言实现三子棋游戏什么是三子棋游戏分析代码实现菜单打印井字格创建二维棋盘数组初始化棋盘数组打印棋盘下棋玩家下棋电脑下棋判断结果完整代码总结在学习完函数和数组的基本使用之后，我们应... 查看详情