[深度学习][pytorch]pytorch实现一个简单得线性回归模型并训练

FL1623863129 FL1623863129     2022-12-12     299

关键词:

一个典型的神经网络的训练过程如下:

定义具有学习参数(或权重)的神经网络
迭代输入数据集
根据神经网络对输入数据集进行运算
计算损失(输出与真实结果的距离,损失越小说明模型越准确)
将梯度反向传播给神经网络的参数
更新网络的权重(或参数)。通常使用一种简单的更新规则:权重 = 权重 - 学习率 * 梯度
线性回归模型目标:

构造一组输入数据 x 和其对应的标签 y ,让模型学习拟合出 w 和 b。
我们这里要模拟出的线性回归函数:y = 2x + 1
x 给的是从 0 - 10 一共11个数(11行1列的矩阵)     对应的y就是 1 - 21 也是11个数(11行1列的矩阵)

import numpy as np
import torch
import torch.nn as nn

构造X训练数据
x_values = [i for i in range(11)]
x_train = np.array(x_values,dtype=np.float32)
x_train = x_train.reshape(-1,1)
x_train.shape

(11,1)

构造y训练数据
y_values = [2*i+1 for i in x_values]
y_train = np.array(y_values,dtype=np.float32)
y_train = y_train.reshape(-1,1)
y_train.shape

(11,1)

建立网络模型:1.实现init()用到了哪个层 2.前向传播forward()怎么实现的
线性回归模型:一个不加激活函数的全连接层
class LinearRegressionModel(nn.Module):
    def __init__(self, input_dim, output_dim):
        super(LinearRegressionModel, self).__init__()
        self.linear = nn.Linear(input_dim, output_dim) #全连接层 给定输入/出数据的维度 

    def forward(self, x):
        out = self.linear(x)#走全连接层 输入x,得到输出out
        return out


input_dim = 1
output_dim = 1
model = LinearRegressionModel(input_dim,output_dim)

指定参数和损失函数
epochs = 1000 #迭代1000次
learning_rate = 0.01 #学习率
optimizer = torch.optim.SGD(model.parameters(),lr=learning_rate) #优化器 模型的参数 学习率
criterion = nn.MSELoss() #损失函数 

训练模型
for epoch in range(epochs):
    epoch += 1
    #x,y数据转换成tensor格式
    inputs = torch.from_numpy(x_train)
    labels = torch.from_numpy(y_train)
    
    #梯度要清零 不然会对上一次迭代的结果进行累加
    optimizer.zero_grad()
    
    #前向传播
    outputs = model(inputs)
    
    #计算损失
    loss = criterion(outputs,labels)
    
    #反向传播
    loss.backward()
    
    #更新权重参数
    optimizer.step()
    if epoch%50 ==0:
        print('epoch , loss '.format(epoch, loss.item()))

 


测试模型预测结果
predicted = model(torch.from_numpy(x_train).requires_grad_()).data.numpy()
predicted

 


模型的保存与读取
torch.save(model.state_dict(),'linear_regression_model.pkl')

model.load_state_dict(torch.load('linear_regression_model.pkl'))
<All keys matched successfully>


数据和模型传入cuda——用GPU训练

 

 

 

class LinearRegressionModel(nn.Module):
    def __init__(self, input_dim, output_dim):
        super(LinearRegressionModel, self).__init__()
        self.linear = nn.Linear(input_dim, output_dim)  
        
    def forward(self, x):
        out = self.linear(x)
        return out

input_dim = 1
output_dim = 1

model = LinearRegressionModel(input_dim, output_dim)

#设置cuda
device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")
#模型传入cuda
model.to(device)

criterion = nn.MSELoss()

learning_rate = 0.01

optimizer = torch.optim.SGD(model.parameters(), lr=learning_rate)

epochs = 1000
for epoch in range(epochs):
    epoch += 1
    #inputs和labels的数据 传入cuda
    inputs = torch.from_numpy(x_train).to(device)
    labels = torch.from_numpy(y_train).to(device)

    optimizer.zero_grad() 

    outputs = model(inputs)

    loss = criterion(outputs, labels)

    loss.backward()

    optimizer.step()

    if epoch % 50 == 0:
        print('epoch , loss '.format(epoch, loss.item()))


 

深度学习理论与实战pytorch实现

课程目录:01.预备内容(入门)02.Python基础(入门)03.PyTorch基础(入门)04.神经网络(进阶)05.卷积神经网络(进阶)06.循环神经网络(进阶)07.生成对抗网络GAN(进阶)08.强化学习(进阶)09.毕业项目 下载地址:深度学习理... 查看详情

深度学习100例|第41天:语音识别-pytorch实现(代码片段)

...环境配置教程:小白入门深度学习|第四篇:配置PyTorch环境👉往期精彩内容深度学习100例|第1例:猫狗识别-PyTorch实现深度学习100例|第2例:人脸表情识别-PyTorch实现深度学习100例|第3天:交通标志识别-PyTorch... 查看详情

《动手学深度学习》(pytorch版)(代码片段)

《动手学深度学习》PyTorch版前言简介面向人群食用方法方法一方法二方法三目录原书地址引用阅读指南前言读书啦!!!本项目将《动手学深度学习》原书中MXNet代码实现改为PyTorch实现。原书作者:阿斯顿·张、... 查看详情

[深度学习][pytorch]pytorch实现一个简单得线性回归模型并训练

一个典型的神经网络的训练过程如下:定义具有学习参数(或权重)的神经网络迭代输入数据集根据神经网络对输入数据集进行运算计算损失(输出与真实结果的距离,损失越小说明模型越准确)将梯度反... 查看详情

pytorch深度学习实践入门01(代码片段)

文章目录基于PyTorch的两层神经网络一、基于numpy的两层神经网络实现:二、基于PyTorch的两层神经网络实现:三、使用nn库实现两层神经网络四、自定义nnModules实现两层神经网络总结基于PyTorch的两层神经网络提示:在... 查看详情

pytorch深度学习实践_p9_多分类问题_pytorch手写实现数字辨识(代码片段)

pytorch手写实现数字辨识知识点补充view()在PyTorch中view函数作用为重构张量的维度,相当于numpy中的resize()的功能torch.nn.CrossEntropyLoss()求交叉熵,并且其中嵌套了log和softmax函数所以i神经网络最后一层不用再用softmax激活torch.m... 查看详情

深度学习100例|第4例:水果识别-pytorch实现(代码片段)

...大家好,我是K同学啊,今天讲《深度学习100例》PyTorch版的第4个例子,前面一些例子主要还是以带大家了解PyTorch为主,建议手动敲一下代码,只有自己动手了,才能真正体会到里 查看详情

pytorch深度学习:用pytorch实现线性回归(代码片段)

课程来源:Bilibili刘二大人《用PyTorch实现线性回归》代码大致思路:铺垫:创建数据集、构建计算模型定义损失函数和优化方式训练:通过forward函数进行前馈loss记录损失值清除上一次的梯度值反向传播并记录梯... 查看详情

计算机视觉pytorch实现(代码片段)

计算机视觉PyTorch实现(一)PyTorch基础模块计算机视觉可以被广泛应用于多个现实领域中。如做图像基本处理、图像识别、图像分割、目标跟踪、图像分类、姿态估计等。在深度学习中人们开发了很多的学习框架,如C... 查看详情

(机器学习深度学习常用库框架|pytorch篇)第三节:pytorch之torchvision详解(代码片段)

文章目录一:torchvision概述二:torchvision.datasets(1)官方数据集(2)自定义数据集类(3)ImageFolder手动实现三:torchvision.transforms四:torchvision.models一: 查看详情

深度学习——pytorch基础(代码片段)

深度学习(1)——Pytorch基础作者:夏风喃喃参考:《动手学深度学习第二版》李沐文章目录深度学习(1)——Pytorch基础一.数据操作二.数据预处理三.绘图四.自动求导五.概率论导入相关包:importtorch ... 查看详情

深度学习——pytorch基础(代码片段)

深度学习(1)——Pytorch基础作者:夏风喃喃参考:《动手学深度学习第二版》李沐文章目录深度学习(1)——Pytorch基础一.数据操作二.数据预处理三.绘图四.自动求导五.概率论导入相关包:importtorch ... 查看详情

深度学习100例|第3天:交通标志识别-pytorch实现(代码片段)

...大家好,我是K同学啊,今天讲《深度学习100例》PyTorch版的第3个例子,前面一些例子主要还是以带大家了解PyTorch为主,建议手动敲一下代码,只有自己动手了,才能 查看详情

对比学习:《深度学习之pytorch》《pytorch深度学习实战》+代码

PyTorch是一个基于Python的深度学习平台,该平台简单易用上手快,从计算机视觉、自然语言处理再到强化学习,PyTorch的功能强大,支持PyTorch的工具包有用于自然语言处理的AllenNLP,用于概率图模型的Pyro,扩展了PyTorch的功能。通... 查看详情

深度学习100例——使用pytorch实现验证码识别|第4例

前言大家好,我是阿光。本专栏整理了《深度学习100例》,内包含了各种不同的深度学习项目,包含项目原理以及源码,每一个项目实例都附带有完整的代码+数据集。正在更新中~✨ 查看详情

[九]深度学习pytorch-transforms图像增强(剪裁翻转旋转)(代码片段)

0.往期内容[一]深度学习Pytorch-张量定义与张量创建[二]深度学习Pytorch-张量的操作:拼接、切分、索引和变换[三]深度学习Pytorch-张量数学运算[四]深度学习Pytorch-线性回归[五]深度学习Pytorch-计算图与动态图机制[六]深度学习Pyto... 查看详情

pytorch深度学习框架:优雅而简洁的代码实现(代码片段)

 PyTorch是由Facebook发布的深度学习框架,旨在为研究人员和工程师提供快速、灵活和简单的实验平台。与其他框架相比,PyTorch具有简洁的API和灵活的动态计算图,使得构建和训练深度神经网络变得更加优雅和简洁。本... 查看详情

「深度学习一遍过」必修15:pytorch模型分析(代码片段)

...路。专栏地址:「深度学习一遍过」必修篇   目录1Pytorch模型结构分析1.1工具1:pytorch-summary1.2 工具2:Netron1.3工具3 查看详情