关键词：
文章目录
一、前言
🚀 我的环境：
- 语言环境：Python3.6.5
- 编译器：jupyter notebook
- 深度学习环境：TensorFlow2.4.1
🚀 深度学习新人必看：《小白入门深度学习》
🚀 往期精彩-卷积神经网络篇：
- 深度学习100例-卷积神经网络（CNN）实现mnist手写数字识别 | 第1天
- 深度学习100例-卷积神经网络（CNN）彩色图片分类 | 第2天
- 深度学习100例-卷积神经网络（CNN）服装图像分类 | 第3天
- 深度学习100例-卷积神经网络（CNN）花朵识别 | 第4天
- 深度学习100例-卷积神经网络（CNN）天气识别 | 第5天
- 深度学习100例-卷积神经网络（VGG-16）识别海贼王草帽一伙 | 第6天
- 深度学习100例-卷积神经网络（VGG-19）识别灵笼中的人物 | 第7天
- 深度学习100例-卷积神经网络（ResNet-50）鸟类识别 | 第8天
- 深度学习100例-卷积神经网络（AlexNet）手把手教学 | 第11天
- 深度学习100例-卷积神经网络（CNN）识别验证码 | 第12天
- 深度学习100例-卷积神经网络（Inception V3）识别手语 | 第13天
- 深度学习100例-卷积神经网络（Inception-ResNet-v2）识别交通标志 | 第14天
- 深度学习100例-卷积神经网络（CNN）实现车牌识别 | 第15天
- 深度学习100例-卷积神经网络（CNN）识别神奇宝贝小智一伙 | 第16天
- 深度学习100例-卷积神经网络（CNN）注意力检测 | 第17天
🚀 往期精彩-循环神经网络篇：
🚀 往期精彩-生成对抗网络篇：
🚀 本文选自专栏：《深度学习100例》
🚀 推荐精选专栏：《夜深人静写算法》
二、什么是生成对抗网络？
生成对抗网络（GAN）是当今计算机科学领域最有趣的想法之一。两个模型通过对抗过程同时训练。一个生成器模型（“艺术家”）学习创造看起来真实的图像，而判别器模型（“艺术评论家”）学习区分真假图像。
GAN 的应用十分广泛，它的应用包括图像合成、风格迁移、照片修复以及照片编辑，数据增强等等，这次我将讲解如何用生成对抗网络生成小姐姐。
先看看我生成的小姐姐一睹为快
1. 设置GPU
import tensorflow as tf
gpus = tf.config.list_physical_devices("GPU")
if gpus:
tf.config.experimental.set_memory_growth(gpus[0], True) #设置GPU显存用量按需使用
tf.config.set_visible_devices([gpus[0]],"GPU")
# 打印显卡信息，确认GPU可用
print(gpus)
[PhysicalDevice(name='/physical_device:GPU:0', device_type='GPU')]
from tensorflow.keras import layers
from IPython import display
import numpy as np
import glob,imageio,os,PIL,time,pathlib
import matplotlib.pyplot as plt
# 支持中文
plt.rcParams['font.sans-serif'] = ['SimHei'] # 用来正常显示中文标签
plt.rcParams['axes.unicode_minus'] = False # 用来正常显示负号
2. 加载和准备数据集
您将使用 MNIST 数据集来训练生成器和判别器。生成器将生成类似于 MNIST 数据集的手写数字。
data_dir = "D:/jupyter notebook/DL-100-days/datasets/020_cartoon_face"
data_dir = pathlib.Path(data_dir)
pictures_paths = list(data_dir.glob('*'))
pictures_paths = [str(path) for path in pictures_paths]
pictures_paths[:3]
['D:\\\\jupyter notebook\\\\DL-100-days\\\\datasets\\\\020_cartoon_face\\\\1.png',
'D:\\\\jupyter notebook\\\\DL-100-days\\\\datasets\\\\020_cartoon_face\\\\10.png',
'D:\\\\jupyter notebook\\\\DL-100-days\\\\datasets\\\\020_cartoon_face\\\\100.png']
image_count = len(list(pictures_paths))
print("图片总数为：",image_count)
图片总数为： 21551
plt.figure(figsize=(10,5))
plt.suptitle("数据示例",fontsize=15)
for i in range(40):
plt.subplot(5,8,i+1)
plt.xticks([])
plt.yticks([])
# 显示图片
images = plt.imread(pictures_paths[i])
plt.imshow(images)
# plt.show()
def preprocess_image(image):
image = tf.image.decode_jpeg(image, channels=3)
image = tf.image.resize(image, [64, 64])
return (image - 127.5) / 127.5
def load_and_preprocess_image(path):
image = tf.io.read_file(path)
return preprocess_image(image)
AUTOTUNE = tf.data.experimental.AUTOTUNE
path_ds = tf.data.Dataset.from_tensor_slices(pictures_paths)
image_ds = path_ds.map(load_and_preprocess_image, num_parallel_calls=AUTOTUNE)
BUFFER_SIZE = 60000
BATCH_SIZE = 256
# 批量化和打乱数据
train_dataset = image_ds.shuffle(BUFFER_SIZE).batch(BATCH_SIZE)
三、创建模型
1. 生成器
生成器使用 tf.keras.layers.Conv2DTranspose （上采样）层来从种子（随机噪声）中产生图片。以一个使用该种子作为输入的 Dense 层开始，然后多次上采样直到达到所期望的 28x28x1 的图片尺寸。注意除了输出层使用 tanh 之外，其他每层均使用 tf.keras.layers.LeakyReLU 作为激活函数。
def make_generator_model():
model = tf.keras.Sequential()
model.add(layers.Dense(4*4*1024, use_bias=False, input_shape=(100,)))
model.add(layers.BatchNormalization())
model.add(layers.LeakyReLU())
model.add(layers.Reshape((4, 4, 1024)))
assert model.output_shape == (None, 4, 4, 1024)
# 第一层
model.add(layers.Conv2DTranspose(512, (5, 5), strides=(2, 2), padding='same', use_bias=False))
assert model.output_shape == (None, 8, 8, 512)
model.add(layers.BatchNormalization())
model.add(layers.LeakyReLU())
# 第二层
model.add(layers.Conv2DTranspose(256, (5, 5), strides=(2, 2), padding='same', use_bias=False))
assert model.output_shape == (None, 16, 16, 256)
model.add(layers.BatchNormalization())
model.add(layers.LeakyReLU())
# 第三层
model.add(layers.Conv2DTranspose(128, (5, 5), strides=(2, 2), padding='same', use_bias=False))
assert model.output_shape == (None, 32, 32, 128)
model.add(layers.BatchNormalization())
model.add(layers.LeakyReLU())
# 第四层
model.add(layers.Conv2DTranspose(3, (5, 5), strides=(2, 2), padding='same', use_bias=False, activation='tanh'))
assert model.output_shape == (None, 64, 64, 3)
return model
generator = make_generator_model()
generator.summary()
Model: "sequential_4"
_________________________________________________________________
Layer (type) Output Shape Param #
=================================================================
dense_4 (Dense) (None, 16384) 1638400
_________________________________________________________________
batch_normalization_8 (Batch (None, 16384) 65536
_________________________________________________________________
leaky_re_lu_16 (LeakyReLU) (None, 16384) 0
_________________________________________________________________
reshape_2 (Reshape) (None, 4, 4, 1024) 0
_________________________________________________________________
conv2d_transpose_8 (Conv2DTr (None, 8, 8, 512) 13107200
_________________________________________________________________
batch_normalization_9 (Batch (None, 8, 8, 512) 2048
_________________________________________________________________
leaky_re_lu_17 (LeakyReLU) (None, 8, 8, 512) 0
_________________________________________________________________
conv2d_transpose_9 (Conv2DTr (None, 16, 16, 256) 3276800
_________________________________________________________________
batch_normalization_10 (Batc (None, 16, 16, 256) 1024
_________________________________________________________________
leaky_re_lu_18 (LeakyReLU) (None, 16, 16, 256) 0
_________________________________________________________________
conv2d_transpose_10 (Conv2DT (None, 32, 32, 128) 819200
_________________________________________________________________
batch_normalization_11 (Batc (None, 32, 32, 128) 512
_________________________________________________________________
leaky_re_lu_19 (LeakyReLU) (None, 32, 32, 128) 0
_________________________________________________________________
conv2d_transpose_11 (Conv2DT (None, 64, 64, 3) 9600
=================================================================
Total params: 18,920,320
Trainable params: 18,885,760
Non-trainable params: 34,560
_________________________________________________________________
2. 判别器
判别器是一个基于 CNN 的图片分类器。
def make_discriminator_model():
model = tf.keras.Sequential([
layers.Conv2D(128, (5, 5), strides=(2, 2), padding='same', input_shape=[64, 64, 3]),
layers.LeakyReLU(),
layers.Dropout(0.3),
layers.Conv2D(128, (5, 5), strides=(2, 2), padding='same'),
layers.LeakyReLU(),
layers.Dropout(0.3),
layers.Conv2D(256, (5, 5), strides=(2, 2), padding='same'),
layers.LeakyReLU(),
layers.Dropout(0.3),
layers.Conv2D(512, (5, 5), strides=(2, 2), padding='same'),
layers.LeakyReLU(),
layers.Dropout(0.3),
layers.Flatten(),
layers.Dense(1)
])
return model
discriminator = make_discriminator_model()
discriminator.summary()
Model: "sequential_5"
_________________________________________________________________
Layer (type) Output Shape Param #
=================================================================
conv2d_8 (Conv2D) (None, 32, 32, 128) 9728
_________________________________________________________________
leaky_re_lu_20 (LeakyReLU) (None, 32, 32, 128) 0
_________________________________________________________________
dropout_8 (Dropout) (None, 32, 32, 128) 0
_________________________________________________________________
conv2d_9 (Conv2D) (None, 16, 16, 128) 409728
_________________________________________________________________
leaky_re_lu_21 (LeakyReLU) (None, 16, 16, 128) 0
_________________________________________________________________
dropout_9 (Dropout) (None, 16, 16, 128) 0
_________________________________________________________________
conv2d_10 (Conv2D) (None, 8, 8, 256) 819456
_________________________________________________________________
leaky_re_lu_22 (LeakyReLU) (None, 8, 8, 256) 0
_________________________________________________________________
dropout_10 (Dropout) (None, 8, 8, 256) 0
_________________________________________________________________
conv2d_11 (Conv2D) (None, 4, 4, 512) 3277312
_________________________________________________________________
leaky_re_lu_23 (LeakyReLU) (None, 4, 4, 512) 0
_________________________________________________________________
dropout_11 (Dropout) (None, 4, 4, 512) 0
_________________________________________________________________
flatten_2 (Flatten) (None, 8192) 0
_________________________________________________________________
dense_5 (Dense) (None, 1) 8193
=================================================================
Total params: 4,524,417
Trainable params: 4,524,417
Non-trainable params: 0
_________________________________________________________________
四、定义损失函数和优化器
为两个模型定义损失函数和优化器。
# 该方法返回计算交叉熵损失的辅助函数
cross_entropy = tf.keras.losses.BinaryCrossentropy(from_logits=True)
1. 判别器损失
该方法量化判断真伪图片的能力。它将判别器对真实图片的预测值与值全为 1 的数组进行对比，将判别器对伪造（生成的）图片的预测值与值全为 0 的数组进行对比。
def discriminator_loss(real_output, fake_output):
real_loss = cross_entropy(tf.ones_like(real_output), real_output)
fake_loss = cross_entropy(tf.zeros_like(fake_output), fake_output)
total_loss = real_loss + fake_loss
return total_loss
2. 生成器损失
生成器损失量化其欺骗判别器的能力。直观来讲，如果生成器表现良好，判别器将会把伪造图片判断为真实图片（或 1）。这里我们将把判别器在生成图片上的判断结果与一个值全为 1 的数组进行对比。
def generator_loss(fake_output):
return cross_entropy(tf.ones_like(fake_output), fake_output)
由于我们需要分别训练两个网络，判别器和生成器的优化器是不同的。
generator_optimizer = tf.keras.optimizers.Adam(1e-4)
discriminator_optimizer = tf.keras.optimizers.Adam(1e-4)
五、保存检查点
tf.train.Checkpoint 只保存模型的参数，不保存模型的计算过程，因此一般用于在具有模型源代码的时候恢复之前训练好的模型参数。
# 定义模型保存路径
checkpoint_dir = './model/model_20/training_checkpoints'
checkpoint_prefix = os.path.join(checkpoint_dir, "ckpt")
checkpoint = tf.train.Checkpoint(generator_optimizer=generator_optimizer,
discriminator_optimizer=discriminator_optimizer,
generator=generator,
discriminator=discriminator)
六、定义训练循环
EPOCHS = 600
noise_dim = 100
num_examples_to_generate = 16
# 我们将重复使用该种子（在 GIF 中更容易可视化进度）
seed = tf.random.normal([num_examples_to_generate, noise_dim])
训练循环在生成器接收到一个随机种子作为输入时开始。该种子用于生产一张图片。判别器随后被用于区分真实图片（选自训练集）和伪造图片（由生成器生成）。针对这里的每一个模型都计算损失函数，并且计算梯度用于更新生成器与判别器。
# 注意 `tf.function` 的使用
# 该注解使函数被“编译”
@tf.function
def train_step(images):
# 生成噪音
noise = tf.random.normal([BATCH_SIZE, noise_dim])
with tf.GradientTape() as gen_tape, tf.GradientTape() as disc_tape:
generated_images = generator(noise, training=True)
real_output = discriminator(images, training=True)
fake_output = discriminator(generated_images, training=True)
# 计算loss
gen_loss = generator_loss(fake_output)
disc_loss = discriminator_loss(real_output, fake_output)
#计算梯度
gradients_of_generator = gen_tape.gradient(gen_loss, generator.trainable_variables)
gradients_of_discriminator = disc_tape.gradient(disc_loss, discriminator.trainable_variables)
#更新模型
generator_optimizer.apply_gradients(zip(gradients_of_generator, generator.trainable_variables))
discriminator_optimizer.apply_gradients(zip(gradients_of_discriminator, discriminator.trainable_variables))
def train(dataset, epochs):
for epoch in range(epochs):
start = time.time()
for image_batch in dataset:
train_step(image_batch)
# 实时更新生成的图片
display.clear_output(wait=True)
generate_and_save_images(generator, epoch + 1, seed)
# 每 15 个 epoch 保存一次模型
if (epoch + 1) % 100 == 0:
checkpoint.save(file_prefix = checkpoint_prefix)
print ('Time for epoch is sec'.format(epoch + 1, time.time()-start))
# 最后一个 epoch 结束后生成图片
display.clear_output(wait=True)
generate_and_save_images(generator, epochs, seed)
生成与保存图片
def generate_and_save_images(model, epoch, test_input):
# 注意 training` 设定为 False
# 因此，所有层都在推理模式下运行（batchnorm）。
predictions = model(test_input, training=False)
fig = plt.figure(figsize=(5,5))
for i in range(predictions.shape[0]):
plt.subplot(4, 4, i+1)
plt.imshow(predictions[i] * 0.5 + 0.5) # 注意需要还原标准化的图片
plt.axis('off')
plt.savefig('./images/images_20/image_at_epoch_:04d.png'.format(epoch+600))
plt.show()
七、训练模型
调用上面定义的 train() 方法来同时训练生成器和判别器。在训练之初，生成的图片看起来像是随机噪声。随着训练过程的进行，生成的数字将越来越真实。在大概 50 个 epoch 之后，这些图片看起来像是 MNIST 数字。
1. 恢复模型参数
返回目录下最近一次checkpoint的文件名。例如如果save目录下有 model.ckpt-1.index 到 model.ckpt-10.index 的10个保存文件， tf.train.latest_checkpoint('./save') 即返回 ./save/model.ckpt-10 。
checkpoint.restore(tf.train.latest_checkpoint(checkpoint_dir))
<tensorflow.python.training.tracking.util.CheckpointLoadStatus at 0x20498267128>
2. 训练模型
%%time：将会给出cell的代码运行一次所花费的时间。
%%time
train(train_dataset, EPOCHS)
Time for epoch 201 is 17.364601135253906 sec
3. 创建 GIF
import imageio,pathlib
def compose_gif():
# 图片地址
data_dir = "./images/images_20"
data_dir = pathlib.Path(data_dir)
paths = list(data_dir.glob('*'))
gif_images = []
for path in paths:
gif_images.append(imageio.imread(path))
imageio.mimsave("MINST_DCGAN_20.gif",gif_images,fps=8)
compose_gif()
查看详情
深度学习100例-生成对抗网络（dcgan）生成动漫小姐姐|第20天(代码片段)
文章目录一、前言二、什么是生成对抗网络？1.设置GPU2.加载和准备数据集三、创建模型1.生成器2.判别器四、定义损失函数和优化器1.判别器损失2.生成器损失五、保存检查点六、定义训练循环七、训练模型1.恢复模型参数2.训... 查看详情
深度学习100例-生成对抗网络（gan）手写数字生成|第18天(代码片段)
🔱大家好，我是👉K同学啊，《深度学习100例》系列将持续更新欢迎点赞👍、收藏⭐、关注👀文章目录一、前期工作1.设置GPU2.定义训练参数二、什么是生成对抗网络1.简单介绍2.应用领域三、网络结构四... 查看详情
深度学习100例-生成对抗网络（gan）手写数字生成|第18天(代码片段)
🔱大家好，我是👉K同学啊，《深度学习100例》系列将持续更新欢迎点赞👍、收藏⭐、关注👀文章目录一、前期工作1.设置GPU2.定义训练参数二、什么是生成对抗网络1.简单介绍2.应用领域三、网络结构四... 查看详情
深度卷积对抗生成网络(dcgan)
本文是参考文献[1]的论文笔记。卷积神经网络在有监督学习中的各项任务上都有很好的表现，但在无监督学习领域，却比较少。本文介绍的算法将有监督学习中的CNN和无监督学习中的GAN结合到了一起。在非CNN条件下，LAPGAN在图像... 查看详情
深度卷积生成对抗网络dcgan
...成网络GGG和判别网络DDD使用的都是前馈神经网络MLP。随着深度学习技术的发展，得益于卷积神经网络CNN在图像领域的成功，在DCGAN[2]中尝试将CNN与GAN相结合，用CNN网络替换GAN的生成网络GGG和判别网络DDD中的MLP，同... 查看详情
深度卷积生成对抗网络dcgan
...成网络GGG和判别网络DDD使用的都是前馈神经网络MLP。随着深度学习技术的发展，得益于卷积神经网络CNN在图像领域的成功，在DCGAN[2]中尝试将CNN与GAN相结合，用CNN网络替换GAN的生成网络GGG和判别网络DDD中的MLP，同... 查看详情
《深度学习100例》数据和代码(代码片段)
《深度学习100例》分为《深度学习基础50例》与《深度学习进阶50例》，大家可以选择一次性订阅《深度学习100例》也可以分开订阅。《深度学习基础50例》：主要讲解深度学习中的一些基础算法，主要体现在目标识别，以及循环... 查看详情
深度卷积生成对抗网络dcgan——生成手写数字图片(代码片段)
前言本文使用深度卷积生成对抗网络（DCGAN）生成手写数字图片，代码使用KerasAPI与tf.GradientTape编写的，其中tf.GradientTrape是训练模型时用到的。 本文用到imageio库来生成gif图片，如果没有安装的，需要安装... 查看详情
keras深度学习实战（23）——dcgan详解与实现(代码片段)
Keras深度学习实战（23）——DCGAN详解与实现0.前言1.使用DCGAN生成手写数字图像2.使用DCGAN生成面部图像2.1模型分析2.2从零开始实现DCGAN生成面部图像小结系列链接0.前言在生成对抗网络(GenerativeAdversarialNetworks,GAN)一节中，我们使用... 查看详情
机器学习算法之dcgan(代码片段)
...模型。GAN是一种生成式对抗网络，即通过对抗的方式，去学习数据分布的生成式模型。所谓的对抗，指的是生成网络和判别网络的互相对抗。生成网络尽可能生成逼真样本，判别网络则尽可能去判别该样本是真实样本，还是生成... 查看详情
《深度学习100例》数据和代码(代码片段)
《深度学习100例》分为《深度学习基础50例》与《深度学习进阶50例》，大家可以选择一次性订阅《深度学习100例》也可以分开订阅。《深度学习基础50例》：主要讲解深度学习中的一些基础算法，主要体现在目标识别... 查看详情
keras深度学习实战（23）——dcgan详解与实现(代码片段)
Keras深度学习实战（23）——DCGAN详解与实现0.前言1.使用DCGAN生成手写数字图像2.使用DCGAN生成面部图像2.1模型分析2.2从零开始实现DCGAN生成面部图像小结系列链接0.前言在生成对抗网络(GenerativeAdversarialNetworks,GAN)一节中，... 查看详情
深度学习generativeadversarialnetworks,gan生成对抗网络分类(代码片段)
目录1思维导图2大纲3经典GAN简介3.1SGAN3.2ConditionalGAN3.3BidirectionalGAN(BiGAN)3.4InfoGAN3.5AuxiliaryClassifierGAN(AC-GAN)3.6BoundaryEquilibriumGAN(BEGAN)3.7Self-attentionGAN(SAGAN)3.8DeepConvolutionalGAN(DCGAN) 查看详情
深度学习生成对抗网络gan｜ganwganwgan-upcgancyclegandcgan(代码片段)
文章目录一、TypicalGAN二、WGAN三、ImprovedGAN(WGAN-GP)四、ConditionalGAN(CGAN)五、CycleGAN六、🌟DCGAN参考文章论文连接：必读的10篇关于GAN的论文方法通俗含义对抗学习找对手互怼GAN自监督学习自己找标签学习GAN、word2vec弱监督学... 查看详情
深度卷积生成对抗网络
深度卷积生成对抗网络DeepConvolutionalGenerativeAdversarialNetworksGANs如何工作的基本思想。可以从一些简单的，易于抽样的分布，如均匀分布或正态分布中提取样本，并将其转换成与某些数据集的分布相匹配的样本。虽然例子匹配一个... 查看详情
tensorflow+keraskeras实现条件生成对抗网络dcgan--以minis和fashion_mnist数据集为例(代码片段)
1引言条件生成对抗网络(ConditionalGenerativeAdversarialNets，简称CGAN)是GAN的改进。举例如图所示，如果使用Minist数据集在GAN中，在训练时，随机初始化一个和图片大小一致的矩阵和原始图片的矩阵进行博弈，产生一... 查看详情
keras深度学习实战（22）——生成对抗网络详解与实现(代码片段)
Keras深度学习实战（22）——生成对抗网络详解与实现0.前言1.生成对抗网络原理2.模型分析3.利用生成对抗网络生成手写数字图像小结系列链接0.前言生成对抗网络(GenerativeAdversarialNetworks,GAN)使用神经网络生成与原始图像集... 查看详情