GAN原理手寫資料集生成

阿新 • • 發佈：2021-06-20

GAN原理介紹

GAN 來源於博弈論中的零和博弈，博弈雙方，分別為生成模型與判別模型。
生成模型G捕捉樣本資料的分佈，用服從某一分佈例如正太，高斯分佈的噪聲z來生成一個類似真實訓練資料的樣本，追求的效果是越像真實越好。
判別模型是一個二分類器，判別樣本來自於訓練資料還是真實資料的概率。如果來自於真實樣本輸出大概率，如果來自於訓練資料，輸出小概率。

例項demo

以造小狗的假圖片為例。首先生成小狗圖片的模型，稱之為generator，還有一個判斷小狗圖片是否是真假的判別模型 discrimator。
首先輸入一個的噪聲，然後送入生成器，生成器的生成假圖
把真圖與假圖。進行拼接，然後打上標籤，真圖標籤是1,假圖標籤是0，送入鑑別器，鑑別器輸出屬於真實樣本與訓練樣本的概率。

實際GAN（手寫資料集為例）

資料預處理

匯入函式庫

import tensorflow as tf
from tensorflow import keras
from tensorflow.keras import layers
import matplotlib.pyplot as plt

劃分資料集

(train_image,train_labels),_=keras.datasets.mnist.load_data()

資料型別轉換于歸一化[-1,1]

train_images=2*tf.cast(train_image,tf.float32)/255.-1

expand_dims 設定通道,-1 加一維

train_images=2*tf.cast(train_image,tf.float32)/255.-1
# expand_dims 設定通道,-1 加一維
train_images=tf.expand_dims(train_images,-1)
train_images.shape

常用引數設定與資料集生成

Batch_Size=256
# 每回使用256
Buffer_Size=60000 #亂序範圍
# 構建demo使用的資料集
dataset=tf.data.Dataset.from_tensor_slices(train_images).shuffle(Buffer_Size).batch(Batch_Size)

GAN模型的生成器與鑑別器構建

定義圖片生成器
BatchNormalization()計算出當前batch的每個channel的均值mean，計算出當前batch的每個channel的方差variance，令輸入減去均值再除以標準差delta，得到normalized輸出x-hat，最後乘以scale引數gamma，加上shift引數beta，得到最終變換後的輸出y
https://www.jianshu.com/p/437fb1a5823e
Keras中使用如Leaky ReLU等高階啟用函式的方法
https://blog.csdn.net/hesongzefairy/article/details/86707352

def generator_model():
  # 第一層
  model=tf.keras.Sequential()
  # 100->256
  # 第一層
  model.add(layers.Dense(256,input_shape=(100,),use_bias=False))
  model.add(layers.BatchNormalization())
  model.add(layers.LeakyReLU())
  # 第二層
  #256->512
  model.add(layers.Dense(512,use_bias=False))
  model.add(layers.BatchNormalization())
  model.add(layers.LeakyReLU())
  # 第三層
  #512->28*28
  model.add(layers.Dense(28*28,use_bias=False,activation="tanh"))
  model.add(layers.BatchNormalization())
  model.add(layers.Reshape([28,28,1]))
  
  return model

定義判別器

def discriminator_model():
  model=tf.keras.Sequential()
  # 第一層
  model.add(layers.Flatten())
  model.add(layers.Dense(512,use_bias=False))
  model.add(layers.BatchNormalization())
  model.add(layers.LeakyReLU())
  # 第二層
  model.add(layers.Dense(512, use_bias=False))
  model.add(layers.BatchNormalization())
  model.add(layers.LeakyReLU())
  model.add(layers.Dense(1))
  # 輸出一個值
  return model

設定損失函式

定義優化器

generator_opt=tf.keras.optimizers.Adam(0.0001)
discriminator_opt=tf.keras.optimizers.Adam(0.0001)
cross_entropy=keras.losses.BinaryCrossentropy(from_logits=True)

計算判別器損失

def discriminator_loss(real_out,fake_out):
  real_loss=cross_entropy(tf.ones_like(real_out),real_out)
  fake_loss=cross_entropy(tf.zeros_like(fake_out),fake_out)
  return real_loss+fake_loss

計算生成器損失

def generator_loss(fake_out):
    fake_loss = cross_entropy(tf.ones_like(fake_out), fake_out)
    return fake_loss

定義訓練step

Epochs=100
input_dim=100
num_exp_to_generate=16
# 生成16*100
seed=tf.random.normal([num_exp_to_generate,input_dim])
# 定義訓練步驟
generator=generator_model()
discriminator=discriminator_model()
def train_step(images):
  noise=tf.random.normal([Batch_Size,input_dim])
  with tf.GradientTape() as gen_tape,tf.GradientTape() as dis_tape:
    real_out=discriminator(images)
    gen_img=generator(noise)
    fake_out=discriminator(gen_img)
    dis_loss=discriminator_loss(real_out,fake_out)
    gen_loss=generator_loss(fake_out) 
    # 梯度下降引數計算
    gen_gard=gen_tape.gradient(gen_loss,generator.trainable_variables)
    dis_gard=dis_tape.gradient(dis_loss,discriminator.trainable_variables)
    # 進行引數更新，並反傳
    discriminator_opt.apply_gradients(zip(dis_gard,discriminator.trainable_variables))
    generator_opt.apply_gradients(zip(gen_gard, generator.trainable_variables))
# 繪製訓練後的圖
def genrate_plot_image(gen_model,test_noise):
    pre_images=gen_model(test_noise,training=False)
    fig=plt.figure(figsize=(8,6))
    for i in range(pre_images.shape[0]):
        plt.subplot(4,4,i+1)
        plt.imshow((pre_images[i,:,:,0]+1)/2*255.)
        plt.axis('off')
    plt.show()

epoch設定

def train(dataset,epochs):
for epoch in range(epochs):
print(epoch)
for image_batch in dataset:
train_step(image_batch)
print(epoch)
if epoch%10==0:
print(epoch)
genrate_plot_image(generator,seed)

main函式

if __name__ == '__main__':
    train(dataset,500)

0
0
0

生成器描述

generator.summary()

Model: "sequential"
_________________________________________________________________
Layer (type)                 Output Shape              Param #   
=================================================================
dense (Dense)                (None, 256)               25600     
_________________________________________________________________
batch_normalization (BatchNo (None, 256)               1024      
_________________________________________________________________
leaky_re_lu (LeakyReLU)      (None, 256)               0         
_________________________________________________________________
dense_1 (Dense)              (None, 512)               131072    
_________________________________________________________________
batch_normalization_1 (Batch (None, 512)               2048      
_________________________________________________________________
leaky_re_lu_1 (LeakyReLU)    (None, 512)               0         
_________________________________________________________________
dense_2 (Dense)              (None, 784)               401408    
_________________________________________________________________
batch_normalization_2 (Batch (None, 784)               3136      
_________________________________________________________________
reshape (Reshape)            (None, 28, 28, 1)         0         
=================================================================
Total params: 564,288
Trainable params: 561,184
Non-trainable params: 3,104
_________________________________________________________________

GAN原理手寫資料集生成

GAN原理介紹 GAN 來源於博弈論中的零和博弈，博弈雙方，分別為生成模型與判別模型。

TensorFlow MNIST手寫資料集的實現方法

MNIST資料集介紹 MNIST資料集中包含了各種各樣的手寫數字圖片，資料集的官網是：http://yann.lecun.com/exdb/mnist/index.html，我們可以從這裡下載資料集。使用如下的程式碼對資料集進行載入：

tensorflow2.0——手寫資料集預測

import tensorflow as tf import numpy as np import matplotlib.pylab as plt plt.rcParams[\"font.family\"] = \'SimHei\'# 將字型改為中文

tensorflow2.0——手寫資料集預測（全連線神經3層網路）

import tensorflow as tf import numpy as np from tensorflow.keras import datasets, layers, optimizers # 載入手寫數字資料

tensorflow2.0——手寫資料集預測完整版

import tensorflow as tf def preporocess(x,y): x = tf.cast(x,dtype=tf.float32) / 255 x = tf.reshape(x,(-1,28 *28))#鋪平

尋找利用神經網路識別手寫資料集MNIST程式的最佳引數（learning_rate、nodes、epoch）

pytorch GAN偽造手寫體mnist資料集方式

一，mnist資料集形如上圖的數字手寫體就是mnist資料集。二，GAN原理(生成對抗網路)

Tensorflow卷積實現原理+手寫python程式碼實現卷積教程

從一個通道的圖片進行卷積生成新的單通道圖的過程很容易理解，對於多個通道卷積後生成多個通道的圖理解起來有點抽象。本文以通俗易懂的方式講述卷積，並輔以圖片解釋，能快速理解卷積的實現原理。最後手寫python程式

重學 Java 設計模式：實戰中介者模式「按照Mybaits原理手寫ORM框架，給JDBC方式操作資料庫增加中介者場景」

作者：小傅哥部落格：https://bugstack.cn - 原創系列專題文章沉澱、分享、成長，讓自己和他人都能有所收穫！

【乾貨】教你如何增加拿到BAT大廠offer機率，原始碼+原理+手寫框架

都說程式設計師是一個青春飯，而我也不知不覺進入行業七年多了，自己也馬上要進入而立之年了。都說30歲是每個程式設計師必會經歷的一道坎，而自己也快到要面對這個坎了，我時常會想我能不能跨個這道坎。

線性模型和CNN實現MNIST資料集手寫數字辨識

用CNN實現 #1 import torch import torch.nn as nn import torch.nn.functional as F #用來製作Dataloader

使用cnn網路訓練手寫數字資料集

使用cnn網路訓練手寫數字資料集 #!/usr/bin/env python # -*- coding: utf-8 -*- # @Time : 2020/12/23 20:27

loss曲線 pytorch_PyTorch：MNIST資料集手寫數字識別

技術標籤：loss曲線 pytorch MNIST 包括6萬張28x28的訓練樣本，1萬張測試樣本，很多教程都會對它”下手”幾乎成為一個 “典範”，可以說它就是計算機視覺裡面的Hello World。所以我們這裡也會使用MNIST來進行實

使用TensorFlow2.0+ 上手mnist手寫數字資料集學習的一個示例

技術標籤：pythontensorflow機器學習本文章介紹使用TensorFlow2.0+ 上手mnist資料集學習的一個示例，以便快速的使用Tensorflow

pytorch:實現簡單的GAN示例(MNIST資料集)

我就廢話不多說了，直接上程式碼吧！ # -*- coding: utf-8 -*- \"\"\" Created on Sat Oct 13 10:22:45 2018

Pytorch使用MNIST資料集實現CGAN和生成指定的數字方式

CGAN的全拼是Conditional Generative Adversarial Networks，條件生成對抗網路，在初始GAN的基礎上增加了圖片的相應資訊。

Pytorch使用MNIST資料集實現基礎GAN和DCGAN詳解

原始生成對抗網路Generative Adversarial Networks GAN包含生成器Generator和判別器Discriminator，資料有真實資料groundtruth，還有需要網路生成的“fake”資料，目的是網路生成的fake資料可以“騙過”判別器，讓判

手寫React的Fiber架構，深入理解其原理

熟悉React的朋友都知道，React支援jsx語法，我們可以直接將HTML程式碼寫到JS中間，然後渲染到頁面上，我們寫的HTML如果有更新的話，React還有虛擬DOM的對比，只更新變化的部分，而不重新渲染整個頁面，大大提高渲染效

手寫內網穿透服務端客戶端(NAT穿透)原理及實現

Hello,I\'m Shendi. 這天心血來潮,決定做一個內網穿透的軟體. 用過花生殼等軟體的就知道內網穿透是個啥,幹嘛用的了.

手寫一個Redux，深入理解其原理

Redux可是一個大名鼎鼎的庫，很多地方都在用，我也用了幾年了，今天這篇文章就是自己來實現一個Redux，以便於深入理解他的原理。我們還是老套路，從基本的用法入手，然後自己實現一個Redux來替代原始碼的NPM包，但是

GAN原理手寫資料集生成

GAN原理介紹

例項demo

實際GAN（手寫資料集為例）

資料預處理

匯入函式庫

劃分資料集

資料型別轉換于歸一化[-1,1]

expand_dims 設定通道,-1 加一維

常用引數設定與資料集生成

GAN模型的生成器與鑑別器構建

定義判別器

設定損失函式

定義優化器

計算判別器損失

計算生成器損失

定義訓練step

epoch設定

main函式

生成器描述

相關推薦