关键词：
【计算机视觉（CV）】基于卷积神经网络实现美食分类
(文章目录)
前言
任务描述
如何根据据图像的视觉内容为图像赋予一个语义类别是图像分类的目标，也是图像检索、图像内容分析和目标识别等问题的基础。
本实践旨在通过一个美食分类的案列，让大家理解和掌握如何使用飞桨动态图搭建一个卷积神经网络。
**特别提示：**本实践所用数据集均来自互联网，请勿用于商务用途。
一、美食识别数据集加载
(一)、参数配置
- 导入相关包：
#导入必要的包
import os
import zipfile
import random
import json
import paddle
import sys
import numpy as np
from PIL import Image
from PIL import ImageEnhance
import paddle
from paddle import fluid
import matplotlib.pyplot as plt
import paddle.vision.transforms as T
import paddle.nn as nn
import paddle.nn.functional as F
- 参数配置
参数配置
train_parameters =
"input_size": [3, 64, 64], #输入图片的shape
"class_dim": 5, #分类数
"src_path":"data/data42610/foods.zip", #原始数据集路径
"target_path":"/home/aistudio/data/", #要解压的路径
"train_list_path": "/home/aistudio/data/train.txt", #train.txt路径
"eval_list_path": "/home/aistudio/data/eval.txt", #eval.txt路径
"readme_path": "/home/aistudio/data/readme.json", #readme.json路径
"label_dict":, #标签字典
"num_epochs": 2, #训练轮数
"train_batch_size": 64, #训练时每个批次的大小
"learning_strategy": #优化函数相关的配置
"lr": 0.01 #超参数学习率
(二)、解压原始数据集
def unzip_data(src_path,target_path):
解压原始数据集，将src_path路径下的zip包解压至target_path目录下
if(not os.path.isdir(target_path + "foods")):
z = zipfile.ZipFile(src_path, r)
z.extractall(path=target_path)
z.close()
(三)、生成数据列表
def get_data_list(target_path,train_list_path,eval_list_path):
生成数据列表
#存放所有类别的信息
class_detail = []
#获取所有类别保存的文件夹名称
data_list_path=target_path+"foods/"
class_dirs = os.listdir(data_list_path)
#总的图像数量
all_class_images = 0
#存放类别标签
class_label=0
#存放类别数目
class_dim = 0
#存储要写进eval.txt和train.txt中的内容
trainer_list=[]
eval_list=[]
#读取每个类别
for class_dir in class_dirs:
if class_dir != ".DS_Store":
class_dim += 1
class_detail_list =
eval_sum = 0
trainer_sum = 0
#统计每个类别有多少张图片
class_sum = 0
#获取类别路径
path = data_list_path + class_dir
# 获取所有图片
img_paths = os.listdir(path)
for img_path in img_paths: # 遍历文件夹下的每个图片
name_path = path + / + img_path # 每张图片的路径
if class_sum % 10 == 0: # 每10张图片取一个做验证数据
eval_sum += 1 # test_sum为测试数据的数目
eval_list.append(name_path + "\\t%d" % class_label + "\\n")
else:
trainer_sum += 1
trainer_list.append(name_path + "\\t%d" % class_label + "\\n")#trainer_sum测试数据的数目
class_sum += 1 #每类图片的数目
all_class_images += 1 #所有类图片的数目
# 说明的json文件的class_detail数据
class_detail_list[class_name] = class_dir #类别名称
class_detail_list[class_label] = class_label #类别标签
class_detail_list[class_eval_images] = eval_sum #该类数据的测试集数目
class_detail_list[class_trainer_images] = trainer_sum #该类数据的训练集数目
class_detail.append(class_detail_list)
#初始化标签列表
train_parameters[label_dict][str(class_label)] = class_dir
class_label += 1
#初始化分类数
train_parameters[class_dim] = class_dim
#乱序
random.shuffle(eval_list)
with open(eval_list_path, a) as f:
for eval_image in eval_list:
f.write(eval_image)
random.shuffle(trainer_list)
with open(train_list_path, a) as f2:
for train_image in trainer_list:
f2.write(train_image)
# 说明的json文件信息
readjson =
readjson[all_class_name] = data_list_path #文件父目录
readjson[all_class_images] = all_class_images
readjson[class_detail] = class_detail
jsons = json.dumps(readjson, sort_keys=True, indent=4, separators=(,, : ))
with open(train_parameters[readme_path],w) as f:
f.write(jsons)
print (生成数据列表完成！)```
```python
# 文本特征
def get_text_features(train_data_list, test_data_list, feature_words):
根据特征词，将数据集中的句子转化为特征向量
def text_features(text, feature_words):
text_words = set(text)
features = [1 if word in text_words else 0 for word in feature_words] # 形成特征向量
return features
train_feature_list = [text_features(text, feature_words) for text in train_data_list]
test_feature_list = [text_features(text, feature_words) for text in test_data_list]
return train_feature_list, test_feature_list
参数初始化
src_path=train_parameters[src_path]
target_path=train_parameters[target_path]
train_list_path=train_parameters[train_list_path]
eval_list_path=train_parameters[eval_list_path]
batch_size=train_parameters[train_batch_size]
解压原始数据到指定路径
unzip_data(src_path,target_path)
划分训练集与验证集，乱序，生成数据列表
#每次生成数据列表前，首先清空train.txt和eval.txt
with open(train_list_path, w) as f:
f.seek(0)
f.truncate()
with open(eval_list_path, w) as f:
f.seek(0)
f.truncate()
#生成数据列表
get_data_list(target_path,train_list_path,eval_list_path)
(四)、构造提供器
class FoodDataset(paddle.io.Dataset):
def __init__(self, data_path, mode=train):
"""
数据读取器
:param data_path: 数据集所在路径
:param mode: train or eval
"""
super().__init__()
self.data_path = data_path
self.img_paths = []
self.labels = []
if mode == train:
with open(os.path.join(self.data_path, "train.txt"), "r", encoding="utf-8") as f:
self.info = f.readlines()
for img_info in self.info:
img_path, label = img_info.strip().split(\\t)
self.img_paths.append(img_path)
self.labels.append(int(label))
else:
with open(os.path.join(self.data_path, "eval.txt"), "r", encoding="utf-8") as f:
self.info = f.readlines()
for img_info in self.info:
img_path, label = img_info.strip().split(\\t)
self.img_paths.append(img_path)
self.labels.append(int(label))
def __getitem__(self, index):
"""
获取一组数据
:param index: 文件索引号
:return:
"""
# 第一步打开图像文件并获取label值
img_path = self.img_paths[index]
img = Image.open(img_path)
if img.mode != RGB:
img = img.convert(RGB)
img = img.resize((64, 64), Image.BILINEAR)
img = np.array(img).astype(float32)
img = img.transpose((2, 0, 1)) / 255
label = self.labels[index]
label = np.array([label], dtype="int64")
return img, label
def print_sample(self, index: int = 0):
print("文件名", self.img_paths[index], "\\t标签值", self.labels[index])
def __len__(self):
return len(self.img_paths)
#训练数据加载
train_dataset = FoodDataset(data_path=data/,mode=train)
train_loader = paddle.io.DataLoader(train_dataset, batch_size=train_parameters[train_batch_size], shuffle=True)
#测试数据加载
eval_dataset = FoodDataset(data_path=data/,mode=eval)
eval_loader = paddle.io.DataLoader(eval_dataset, batch_size = 8, shuffle=False)
print(train_dataset.__len__())
print(eval_dataset.__len__())
二、模型配置
(一)、定义卷积网络
#定义卷积网络
class MyCNN(nn.Layer):
def __init__(self):
super(MyCNN,self).__init__()
# in_channels, out_channels, kernel_size, stride=1, padding=0
self.conv0 = nn.Conv2D(in_channels = 3,out_channels=64, kernel_size=3,padding=0,stride=1)
self.pool0 = nn.MaxPool2D(kernel_size = 2,stride = 2)
self.conv1 = nn.Conv2D(in_channels = 64,out_channels=128,kernel_size=3,padding=0, stride = 1)
self.pool1 = nn.MaxPool2D(kernel_size = 2, stride = 2)
self.conv2 = nn.Conv2D(in_channels = 128,out_channels=128,kernel_size=5,padding=0)
self.pool2 = nn.MaxPool2D(kernel_size = 2, stride = 2)
self.fc1 = nn.Linear(in_features=128*5*5,out_features=5)
def forward(self,input):
x = self.conv0(input)
x = self.pool0(x)
x = self.conv1(x)
x = self.pool1(x)
x = self.conv2(x)
x = self.pool2(x)
x = fluid.layers.reshape(x,shape=[-1,128*5*5])
y = self.fc1(x)
return y
(二)、实例化网络
# 实例化网络
model = MyCNN()
# 定义输入
input_define = paddle.static.InputSpec(shape=[-1, 3 , 64, 64],
dtype="float32",
name="img")
label_define = paddle.static.InputSpec(shape=[-1, 1],
dtype="int64",
name="label")
model = paddle.Model(model, inputs=input_define, labels=label_define)
params_info = model.summary((1,3,64,64))
print(params_info) # 打印模型基础结构和参数信息
输出结果如下图1所示：
三、模型训练
(一)、定义训练函数
Batch=0
Batchs=[]
all_train_accs=[]
def draw_train_acc(Batchs, train_accs):
title="training accs"
plt.title(title, fontsize=24)
plt.xlabel("batch", fontsize=14)
plt.ylabel("acc", fontsize=14)
plt.plot(Batchs, train_accs, color=green, label=training accs)
plt.legend()
plt.grid()
plt.show()
all_train_loss=[]
def draw_train_loss(Batchs, train_loss):
title="training loss"
plt.title(title, fontsize=24)
plt.xlabel("batch", fontsize=14)
plt.ylabel("loss", fontsize=14)
plt.plot(Batchs, train_loss, color=red, label=training loss)
plt.legend()
plt.grid()
plt.show()
(二)、模型实例化
model=MyCNN() # 模型实例化
model.train() # 训练模式
cross_entropy = paddle.nn.CrossEntropyLoss()
opt=paddle.optimizer.SGD(learning_rate=0.001, parameters=model.parameters())
epochs_num=train_parameters[num_epochs] #迭代次数
for pass_num in range(train_parameters[num_epochs]):
for batch_id,data in enumerate(train_loader()):
image = data[0]
label = data[1]
predict=model(image) #数据传入model
# print(predict)
# print(np.argmax(predict,axis=1))
loss=cross_entropy(predict,label)
acc=paddle.metric.accuracy(predict,label.reshape([-1,1]))#计算精度
# acc = np.mean(label==np.argmax(predict,axis=1))
if batch_id!=0 and batch_id%10==0:
Batch = Batch+10
Batchs.append(Batch)
all_train_loss.append(loss.numpy()[0])
all_train_accs.append(acc.numpy()[0])
print("epoch:,step:,train_loss:,train_acc:".format(pass_num,batch_id,loss.numpy()[0],acc.numpy()[0]))
loss.backward()
opt.step()
opt.clear_grad() #opt.clear_grad()来重置梯度
paddle.save(model.state_dict(),MyCNN)#保存模型
draw_train_acc(Batchs,all_train_accs)
draw_train_loss(Batchs,all_train_loss)
输出结果如图2、3、4所示：
四、模型评估
(一)、加载模型参数
#模型评估
para_state_dict = paddle.load("MyCNN")
model = MyCNN()
model.set_state_dict(para_state_dict) #加载模型参数
model.eval（) #验证模式
accs = []
for batch_id,data in enumerate(eval_loader()):#测试集
image=data[0]
label=data[1]
predict=model(image)
acc=paddle.metric.accuracy(predict,label)
accs.append(acc.numpy()[0])
avg_acc = np.mean(accs)
print("当前模型在验证集上的准确率为:",avg_acc)
(二)、模型预测
import os
import zipfile
def unzip_infer_data(src_path,target_path):
解压预测数据集
if(not os.path.isdir(target_path)):
z = zipfile.ZipFile(src_path, r)
z.extractall(path=target_path)
z.close()
def load_image(img_path):
预测图片预处理
img = Image.open(img_path)
if img.mode != RGB:
img = img.convert(RGB)
img = img.resize((64, 64), Image.BILINEAR)
img = np.array(img).astype(float32)
img = img.transpose((2, 0, 1)) # HWC to CHW
img = img/255 # 像素值归一化
return img
infer_src_path = /home/aistudio/data/data42610/foods.zip
infer_dst_path = /home/aistudio/data/foods_test
unzip_infer_data(infer_src_path,infer_dst_path)
模型预测
para_state_dict = paddle.load("MyCNN")
model = MyCNN()
model.set_state_dict(para_state_dict) #加载模型参数
model.eval（) #验证模式
#展示预测图片
infer_path=data/foods/baklava/1936599.jpg
img = Image.open(infer_path)
plt.imshow(img) #根据数组绘制图像
plt.show() #显示图像
#对预测图片进行预处理
infer_imgs = []
infer_imgs.append(load_image(infer_path))
infer_imgs = np.array(infer_imgs)
label_dic = train_parameters[label_dict]
for i in range(len(infer_imgs)):
data = infer_imgs[i]
dy_x_data = np.array(data).astype(float32)
dy_x_data=dy_x_data[np.newaxis,:, : ,:]
img = paddle.to_tensor (dy_x_data)
out = model(img)
lab = np.argmax(out.numpy()) #argmax():返回最大数的索引
print("第个样本,被预测为：,真实标签为：".format(i+1,label_dic[str(lab)],infer_path.split(/)[-2]) )
print("结束")
输出结果如图5所示：
总结
本系列文章内容为根据清华社出版的《机器学习实践》所作的相关笔记和感悟，其中代码均为基于百度飞桨开发，若有任何侵权和不妥之处，请私信于我，定积极配合处理，看到必回！！！
最后，引用本次活动的一句话，来作为文章的结语～(￣▽￣～)~：
【**学习的最大理由是想摆脱平庸，早一天就多一份人生的精彩；迟一天就多一天平庸的困扰。**】
计算机视觉（cv）基于全连接网络实现宝石分类(代码片段)
【计算机视觉（CV）】基于全连接网络实现宝石分类(文章目录)前言(一)、任务描述本次实践是一个多分类任务，需要将照片中的宝石分别进行识别，完成宝石的识别实践平台：百度AI实训平台-AIStudio、PaddlePaddle2.0.0动态图(二)、环... 查看详情
计算机视觉（cv）基于高层api实现宝石分类
【计算机视觉（CV）】基于高层API实现宝石分类作者简介：在校大学生一枚，华为云享专家，阿里云专家博主，腾云先锋（TDP）成员，云曦智划项目总负责人，全国高等学校计算机教学与产业实践资源建设专家委员会（TIPCC）志... 查看详情
计算机视觉（cv）基于高层api实现宝石分类(代码片段)
【计算机视觉（CV）】基于高层API实现宝石分类(文章目录)前言(一)、任务描述图像分类是根据图像的语义信息将不同类别图像区分开来，是计算机视觉中重要的基本问题宝石识别属于图像分类中的一个细分类问题实践平台：百度... 查看详情
cv学习资料《卷积神经网络与视觉计算》+《深度学习实践计算机视觉》+《视觉slam十四讲从理论到实践》电子资料代码分析
...学习在计算机视觉各个方向的应用以及最新进展。《卷积神经网络与视觉计算》电子资料自成一体，如果你既想了解CNN的原理，又想获得将CNN应用于计算机视觉的一手经验，那么将非常适合。对CNN进行了全面介绍，首先是神经网... 查看详情
计算机视觉面试之语义分割
...伯克利分校的Long等人提出全卷积网络（FCN），使得卷积神经网络不需要全连接层就可以实现密集的像素级分类，从而成为当前非常流行的像素级分类CNN架构。由于不需要全连接层，所以可以对任意大小的图像进行语义分割，而... 查看详情
设计一个卷积神经网络模型用于遥感图像的场景分类(代码片段)
...法。其中基于高层视觉信息的场景分类方法通过训练卷积神经网络模型来自动提取图像的 查看详情
计算机视觉中的深度学习7:卷积神经网络
Slides：百度云提取码:gs3n之前说了全连接神经网络，说了线性分类，这些东西全都没有保留图片原本的2D特性，全都是将图片转化为1D的数组。而今天说的CNN，则是能更好地保留图片的2D特性，在CV中有着更... 查看详情
设计一个卷积神经网络模型用于遥感图像的场景分类(代码片段)
...法。其中基于高层视觉信息的场景分类方法通过训练卷积神经网络模型来自动提取图像的抽象语义特征，卷积神经网络展现出很强的图像场景特征描述能力，解决了底层、中层特征对场景语义信息描述不准确的问题，... 查看详情
计算机视觉中图像分类任务脉络梳理
...越大。当然也有不少其他架构。两个特点：纵观这些卷积神经网络提高效果的方向，主要是更深、更宽、更多的分支结构和短连接等；AlexNet提出了卷积网络5+3的结构，后续不少经典网络都是在此基础上改进。经典网络：LeNet-5Ale 查看详情
深度学习之四：卷积神经网络基础
...取得了令人惊叹的进展，其中发挥重要作用的是卷积神经网络。本节总结了卷积神经的原理与实现方法。1卷积神经网络1.1计算机视觉与深度学习计算机视觉要解决的问题是如何让机器理解现实世界的现象。目前主要处理的问... 查看详情
tensorflow实现卷积神经网络(代码片段)
quad如果不明白什么是卷积神经网络,请参考:计算机视觉与卷积神经网络下面基于开源的实现简单梳理如何用tensorflow实现卷积神经网络.实现卷积神经网络加载数据集#加载数据集importtensorflowastffromtensorflow.examples.tutorials.mnistimportinpu... 查看详情
毕业设计题目：基于深度学习的动物识别-卷积神经网络机器视觉图像识别(代码片段)
...测流程4实现效果5部分相关代码5.1数据预处理5.2构建卷积神经网络5.3tensorflow计算图可视化5.4网络模型训练5.5对猫狗图像进行2分类6最后-毕设帮助0前言今天学长向大家介绍一个深度学习项目，采用了卷积神经网络技术基于深度... 查看详情
Open CV 计算机视觉中的 haar 级联分类器里面有啥？
】OpenCV计算机视觉中的haar级联分类器里面有啥？【英文标题】：What\'sinsideahaarcascadeclassifierinOpenCVcomputervision?OpenCV计算机视觉中的haar级联分类器里面有什么？【发布时间】：2011-05-2719:07:15【问题描述】：我需要将.xmlOpenCVhaar级联... 查看详情
Open CV 计算机视觉中的 haar 级联分类器里面有啥？
】OpenCV计算机视觉中的haar级联分类器里面有啥？【英文标题】：What\'sinsideahaarcascadeclassifierinOpenCVcomputervision?OpenCV计算机视觉中的haar级联分类器里面有什么？【发布时间】：2011-05-2719:07:15【问题描述】：我需要将.xmlOpenCVhaar级联... 查看详情
matlab基于卷积神经网络cnn实现多分类预测（excel可直接替换数据）
【Matlab】基于卷积神经网络CNN实现多分类预测（Excel可直接替换数据）1.算法简介2.测试数据集3.替换数据4.训练进度图5.网络分析图6.混淆矩阵5.对比结果6.代码及注释1.算法简介CNN卷积神经网络（图解CNN）卷积神经网络（CNN）详解C... 查看详情
计算机视觉（cv）sklearn之分类算法与手写数字识别(代码片段)
【计算机视觉（CV）】sklearn之分类算法与手写数字识别(文章目录)前言(一)、任务描述数据介绍数据读取与存储形式sklearn分类模型代码实现与结果(二)、环境配置本实践代码运行的环境配置如下：Python版本为3.7，PaddlePaddle版本为2.... 查看详情
计算机视觉（cv）基于k-means实现鸢尾花聚类(代码片段)
【计算机视觉（CV）】基于k-means实现鸢尾花聚类(文章目录)前言(一)、任务描述对于给定的样本集，按照样本之间的距离大小，将样本集划分为K个簇，让簇内的点尽量紧密的连在一起，而让簇间的距离尽量的大(二)、环境配置本... 查看详情
matlab基于卷积神经网络cnn实现多分类预测（excel可直接替换数据）
【Matlab】基于卷积神经网络CNN实现多分类预测（Excel可直接替换数据）1.算法简介2.测试数据集3.替换数据4.训练进度图5.网络分析图6.混淆矩阵5.对比结果6.代码及注释1.算法简介CNN卷积神经网络（图解CNN）卷积神经网络（CNN）详解C... 查看详情