什么猫咪最受欢迎?python爬取全网猫咪图片,哪一款是你最爱的(代码片段)

程序猿中的BUG 程序猿中的BUG     2022-12-04     270

关键词:

前言

采集目标

网页资源地址

工具准备

开发工具:pycharm
开发环境:python3.7, Windows11
使用工具包:requests

项目思路解析

做爬虫案例首先需要明确自己的采集目标,白又白这里采集的是当前网页的所有图片信息,有目标后梳理自己的代码编写流程,爬虫的基本四步骤:

  • 第一步:获取到网页资源地址
  • 第二步:对地址发送网络请求
  • 第三步:提取对应数据信息
    • 提取数据的方式一般有正则、xpath、bs4、jsonpath、css选择器
  • 第四步:保存数据信息

第一步:找数据地址

数据的加载方式一般有两种,一种静态一种动态,当前网页的数据在往下刷新时不断的加载数据,可以判断出数据加载的方式为动态的,动态数据需要通过浏览器的抓包工具获取,鼠标右击点击检查,或者按f12的快捷方式,找到加载的数据地址

找到对应数据地址,点击弹出的接口后可以点击预览,预览打开的页面是展示给我们的数据,在数据多的时候通过他来进行查看,获取的数据是通过网址获取的,网址数据在请求里,对网址发送网络请求

第二步:代码发送网络请求

发送请求的工具包会非常多,入门阶段更多的是使用requests工具包,requests是第三方工具包,需要进行下载:pip install requests 发送请求时需要注意我们通过代码请求,web服务器会根据http请求报文来进行区分是浏览器还是爬虫,爬虫不受欢迎的,爬虫代码需要对自己进行伪装,发送请求时带上headers传输的数据类型为字典键值对,ua字段是非常重要的浏览器的身份证

第三步:提取数据

当前获取的数据为动态数据,动态数据动态数据一般都是json数据,json数据可以通过jsonpath直接提取,也可以直接转换成字典,通过Python提取最终的目的是提取到图片的url地址


提取出新的地址后需要再次对网址发送请求,我们需要的是图片数据,链接一般是保存在数据中,发送请求获取图片对应的进制数据

第四步: 保存数据

数据获取到之后将数据进行储存,选择自己数据储存的位置,选择写入方式,我们获取的数据是进制数据,文件访问模式用的wb,将获取到的图片进入数据写入就行,文件的后缀需要是图片结尾的后缀,可以选择用标题命名,白又白使用网址后部分进行命名。

简易源码分享

import requests  # 导入请求的工具包
import re  # 正则匹配工具包

# 添加请求头
headers = 
    # 用户代理
    "User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.67 Safari/537.36",
    # 请求数据来源
    # "Referer": "https://tupian.baidu.com/search/index",
    # "Host": "tupian.baidu.com"


key = input("请输入要下载的图片:")
# 保存图片的地址
path = r"图片/"
# 请求数据接口
for i in range(5, 50):
    url = "https://image.baidu.com/search/acjson?tn=resultjson_com&logid=12114112735054631287&ipn=rj&ct=201326592&is=&fp=result&fr=&word=%E7%8C%AB%E5%92%AA&queryWord=%E7%8C%AB%E5%92%AA&cl=2&lm=-1&ie=utf-8&oe=utf-8&adpicid=&st=-1&z=&ic=&hd=&latest=&copyright=&s=&se=&tab=&width=&height=&face=0&istype=2&qc=&nc=1&expermode=&nojc=&isAsync=&pn=120&rn=30&gsm=78&1635836468641="
    # 发送请求
    response = requests.get(url, headers=headers)
    print(response.text)
    # 正则匹配数据
    url_list = re.findall('"thumbURL":"(.*?)",', response.text)

    print(url_list)
    # 循环取出图片url 和 name
    for new_url in url_list:
        # 再次对图片发送请求
        result = requests.get(new_url).content
        # 分割网址获取图片名字
        name = new_url.split("/")[-1]
        print(name)
        # 写入文件
        with open(path + name, "wb")as f:
            f.write(result)

我是白又白i,一名喜欢分享知识的程序媛❤️
感兴趣的可以关注我的公众号:白又白学Python【非常感谢你的点赞、收藏、关注、评论,一键三连支持】

什么猫咪最受欢迎?python爬取全网猫咪图片,哪一款是你最爱的(代码片段)

前言采集目标网页资源地址工具准备开发工具:pycharm开发环境:python3.7,Windows11使用工具包:requests项目思路解析做爬虫案例首先需要明确自己的采集目标,白又白这里采集的是当前网页的所有图片信息,... 查看详情

python批量爬取猫咪图片实现千图成像(代码片段)

目录前言爬取猫咪图片1、爬取绘艺素材网站2、爬取ZOL网站3、爬取百度图片网站千图成像1、Foto-Mosaik-Edda软件实现2、使用Python实现写在最后前言使用Python爬取猫咪图片,并为猫咪🐱制作千图成像!爬取猫咪图片本文... 查看详情

python批量爬取猫咪图片实现千图成像(代码片段)

目录前言爬取猫咪图片1、爬取绘艺素材网站2、爬取ZOL网站3、爬取百度图片网站千图成像1、Foto-Mosaik-Edda软件实现2、使用Python实现写在最后前言使用Python爬取猫咪图片,并为猫咪🐱制作千图成像!爬取猫咪图片本文... 查看详情

python批量爬取猫咪图片实现千图成像(代码片段)

...书,价值89元的《认识编程》!前言使用Python爬取猫咪图片,并为猫咪🐱制作千图成像!爬取猫咪图片本文使用的Python版本是3.10.0版本,可直接在官网下载:https://www.python.org。Pythonn的安装配置过程在... 查看详情

python爬取2900条数据,深度揭秘到底哪种防脱发洗发水最受欢迎?

就在前段时间,一项由卫健委发起的脱发人群调查数据显示:中国受脱发问题困扰的人群高达2.5亿。听到这儿,远在韩国的各家媒体又开始出来搞事情了,根据他们的计算,这些人完全脱发时的总脱发面积大... 查看详情

怎么做出猫咪的嘴型特效?就像电影里那种,但不需要动作。要详细,啥软件,啥插件,啥步骤?高分!

...的嘴型特效?就像电影里那种,但不需要动作。要详细,什么软件,什么插件,什么步骤?高分!!可以做出像猫说话的样子,然后配音那种没有人会?参考技术A会说话的tom猫模拟录音就是了追问我不是说声音。我是说特效。... 查看详情

27周末吃什么(每周五自动爬取下厨房本周最受欢迎的菜谱)(代码片段)

在之前吴氏私厨的基础上,每周五自动爬取下厨房本周最受欢迎的菜谱 1importrequests2importtime3importschedule4importsmtplib5fromemail.mime.textimportMIMEText6fromemail.headerimportHeader7frombs4importBeautifulSoup89defcaipu_fun():1 查看详情

告诉你那里最受欢迎,python爬取全国13个城市旅游数据(代码片段)

...了前4页的景点信息,每页有15个景点。因为去哪儿并没有什么反爬措施,所以直接请求就可以了。这里随机选择了13个热门城市:北京、上海、成都、三亚、广州、重庆、深圳、西安、杭州、厦门、武汉、大连、苏州。并将爬取... 查看详情

[py]一些搜集到的问题

...9;,'哈士奇美丽价格','哈士奇是个大傻逼','猫咪图片','猫咪价格','波斯猫','折耳猫','折耳猫动漫' 查看详情

小猫咪

查看详情

码农吸猫必备,几行代码就能采集万张猫咪图(代码片段)

...0c;CSDN同步一份作为一个Python爬虫爱好者,当看到涉及猫咪活动的时候,首先想到的就是采集猫咪图,那我们就实现一款猫咪图采集器吧。目标站点说明本次要采集的站点为:《素材公社》,该网站提供了丰富... 查看详情

cogs1191.[tyvjfeb11]猫咪的进化

...时间限制:1s  内存限制:128MB【背景】对于一只猫咪来说,它是有九条命的。但是并不是所有的猫咪都是这样,只有那些造化很高的猫咪才能死而复生。而且对于这样的猫咪,如果它能够活到第九条命,那么它最终可以... 查看详情

turtle库画小猫咪(代码片段)

视频请点击这里哟这个是用python库画的小猫咪,前面一步步的画整个猫的整个身体,具体步骤都写在了注释之中。身体部分画的比较快,后面画了5个心,由于画心的时候要改变好多度数,而且每次只前进一点点,所以画心的时... 查看详情

程序员2天做出的猫咪情绪识别软件,究竟用了什么技术?

...#xff0c;这在技术上是如何实现的?先上图搜究竟用到了什么算法?这个牛逼了。一开始我还想着利用AI似乎进行大数据分析来着,单看到有一个 查看详情

程序员2天做出的猫咪情绪识别软件,究竟用了什么技术?

...#xff0c;这在技术上是如何实现的?先上图搜究竟用到了什么算法?这个牛逼了。一开始我还想着利用AI似乎进行大数据分析来着,单看到有一个 查看详情

php超简洁小猫咪图床源码

简介:无需数据库,拥有叁楼,戒指,bilibili,搜狗,本地等7个图床。网盘下载地址:http://kekewl.net/WJURokRMJLE0图片: 查看详情

猫咪1.2.5更新不了

参考技术A可能是网速问题,或者缺少视频加载插件。可以下载一个谷歌浏览器,打开试一下,如果提示需要下载插件,下载后就可以了如果没提示,那就是网速不太行,或者你用的网络服务商对猫咪影视有限制。 查看详情

在我的世界里怎么抱起宠物猫咪

在我的世界里怎么抱起宠物猫咪宠物猫是不能抱起来的,它的作用是赶跑苦力怕用生鱼对野猫右键,就可以成为宠物猫获得宠物猫咪的步骤如下:1、获取生鱼生鱼可在至少2x2格子的水里面钓鱼获得,一般来说十几个就行了。2、... 查看详情