关键词：
文章目录
张量是一种特殊的
数据结构，在pytorch中，
神经网络的输入、输出和网络的参数等数据，都是通过张量的形式进行描述的。张量和Numpy中的ndarrays很像，只不过张量可以运行在GPU或者其它专用硬件上，从而达到加速的效果。
1. 张量的初始化
下面介绍4种初始化方法。
（1）直接生成张量
由原始数据直接生成张量，张量类型由原始数据类型决定。
import torch
data = [[1, 2], [3, 4]]
x_data = torch.tensor(data)
print(x_data)
输出：
tensor([[1, 2],
[3, 4]])
（2）通过Numpy数组来生成张量
Numpy类型和张量类型可以互相转化
import torch
import numpy as np
data = [[1, 2], [3, 4]]
np_array = np.array(data) #转化为numpy类型
x_np = torch.from_numpy(np_array) # 生成张量
print(x_np)
输出：
tensor([[1, 2],
[3, 4]])
（3）通过已有的张量来生成新的张量
新的张量将继承已有张量的数据属性(结构、类型), 也可以重新指定新的数据类型。下列x_ones为继承类型，x_rand为重写类型。
import torch
data = [[1, 2], [3, 4]]
x_data = torch.tensor(data)
x_ones = torch.ones_like(x_data) # 保继承x_data 的属性
print(f"Ones Tensor: \\n x_ones \\n")
x_rand = torch.rand_like(x_data, dtype=torch.float) # 重写 x_data 的数据类型,int -> float
print(f"Random Tensor: \\n x_rand \\n")
输出：
Ones Tensor:
tensor([[1, 1],
[1, 1]])
Random Tensor:
tensor([[0.8947, 0.7094],
[0.8378, 0.1072]])
（4）通过指定数据维度来生成张量
可以通过元组类型描述张量的维度，并使用下列三种方式生成张量。
import torch
shape = (2,3,)
rand_tensor = torch.rand(shape)
ones_tensor = torch.ones(shape)
zeros_tensor = torch.zeros(shape)
print(f"Random Tensor: \\n rand_tensor \\n")
print(f"Ones Tensor: \\n ones_tensor \\n")
print(f"Zeros Tensor: \\n zeros_tensor")
输出：
Random Tensor:
tensor([[0.1817, 0.6367, 0.2425],
[0.6479, 0.2495, 0.6829]])
Ones Tensor:
tensor([[1., 1., 1.],
[1., 1., 1.]])
Zeros Tensor:
tensor([[0., 0., 0.],
[0., 0., 0.]])
2. 张量属性
张量属性有维数、数据类型以及它们所存储的设备(CPU或GPU)。下面举例获取相应的属性。
import torch
tensor = torch.rand(3,4)
print(f"Shape of tensor: tensor.shape") # 维数
print(f"Datatype of tensor: tensor.dtype") # 数据类型
print(f"Device tensor is stored on: tensor.device") # 存储设备
输出：
Shape of tensor: torch.Size([3, 4])
Datatype of tensor: torch.float32
Device tensor is stored on: cpu
3. 张量运算
张量的运算操作有很多种，例如转置、索引、切片、数学运算、线性代数、随机采样等。如果想要查看完成的运算操作，可以查看官网链接。
（1）将运算移植到GPU中
所有的运算操作都可以在GPU中运行，例如：
import torch
# 判断当前环境GPU是否可用, 然后将tensor导入GPU内运行
tensor = torch.rand(3, 4)
if torch.cuda.is_available():
tensor = tensor.to('cuda')
print(f"Device tensor is stored on: tensor.device")
输出：
Device tensor is stored on: cuda:0
可以看到tensor张量已经移到GPU中。
（2）张量的索引和切片
import torch
tensor = torch.ones(4, 4)
tensor[:,1] = 0 # 将第1列数据全部赋值为0
print(tensor)
输出：
tensor([[1., 0., 1., 1.],
[1., 0., 1., 1.],
[1., 0., 1., 1.],
[1., 0., 1., 1.]])
（3）张量的拼接
可以通过torch.cat或者torch.stack将一组张量按照指定的维度进行拼接。
import torch
tensor = torch.ones(4, 4)
tensor[:,1] = 0 # 将第1列(从0开始)的数据全部赋值为0
t1 = torch.cat([tensor, tensor, tensor], dim=1)
print(t1)
输出：
tensor([[1., 0., 1., 1., 1., 0., 1., 1., 1., 0., 1., 1.],
[1., 0., 1., 1., 1., 0., 1., 1., 1., 0., 1., 1.],
[1., 0., 1., 1., 1., 0., 1., 1., 1., 0., 1., 1.],
[1., 0., 1., 1., 1., 0., 1., 1., 1., 0., 1., 1.]])
（4）张量的乘积和矩阵乘法
- 张量矩阵元素逐个相乘
import torch
tensor = torch.ones(4, 4)
tensor[:,1] = 0 # 将第1列(从0开始)的数据全部赋值为0
# 逐个元素相乘结果
print(f"tensor.mul(tensor): \\n tensor.mul(tensor) \\n")
# 等价写法:
print(f"tensor * tensor: \\n tensor * tensor")
输出：
tensor.mul(tensor):
tensor([[1., 0., 1., 1.],
[1., 0., 1., 1.],
[1., 0., 1., 1.],
[1., 0., 1., 1.]])
tensor * tensor:
tensor([[1., 0., 1., 1.],
[1., 0., 1., 1.],
[1., 0., 1., 1.],
[1., 0., 1., 1.]])
- 张量的矩阵乘法
import torch
tensor = torch.ones(4, 4)
tensor[:,1] = 0 # 将第1列(从0开始)的数据全部赋值为0
print(f"tensor.matmul(tensor.T): \\n tensor.matmul(tensor.T) \\n")
# 等价写法:
print(f"tensor @ tensor.T: \\n tensor @ tensor.T")
输出：
tensor.matmul(tensor.T):
tensor([[3., 3., 3., 3.],
[3., 3., 3., 3.],
[3., 3., 3., 3.],
[3., 3., 3., 3.]])
tensor @ tensor.T:
tensor([[3., 3., 3., 3.],
[3., 3., 3., 3.],
[3., 3., 3., 3.],
[3., 3., 3., 3.]])
（5）自动赋值运算
自动赋值运算通常在方法后有 _ 作为后缀, 例如: x.copy_(y), x.t_()操作会改变 x 的取值。
自动赋值运算虽然可以节省内存, 但在求导时会因为丢失了中间过程而导致一些问题, 所以我们并不鼓励使用它。
import torch
tensor = torch.ones(4, 4)
tensor[:,1] = 0 # 将第1列(从0开始)的数据全部赋值为0
print(tensor, "\\n")
tensor.add_(5)
print(tensor)
输出：
tensor([[1., 0., 1., 1.],
[1., 0., 1., 1.],
[1., 0., 1., 1.],
[1., 0., 1., 1.]])
tensor([[6., 5., 6., 6.],
[6., 5., 6., 6.],
[6., 5., 6., 6.],
[6., 5., 6., 6.]])
4. Tensor与Numpy的转化
张量和Numpy array数组在CPU上可以共用一块内存区域, 改变其中一个另一个也会随之改变。
- 将Tensor转换为Numpy array数组
import torch
t = torch.ones(5)
print(f"t: t")
n = t.numpy()
print(f"n: n")
输出：
t: tensor([1., 1., 1., 1., 1.])
n: [1. 1. 1. 1. 1.]
- 由Numpy array数组转为张量
import torch
import numpy as np
n = np.ones(5)
t = torch.from_numpy(n)
# 修改其中一个值，另一个也随之改变
np.add(n, 1, out=n)
print(f"t: t")
print(f"n: n")
输出：
t: tensor([2., 2., 2., 2., 2.], dtype=torch.float64)
n: [2. 2. 2. 2. 2.]
参考：https://pytorch.apachecn.org/
pytorch深度学习50篇·······第二篇：人脸识别
人脸识别预告！！！！！！！！各位亲爱的朋友们，今天这篇文章只是一个预告，为人脸识别做一点铺垫，包括提供需要安装的包和两个权重文件。这次我们人脸识别之旅分为两个阶段... 查看详情
神经网络与深度学习pytorch入门——张量(代码片段)
...通过参考飞桨AIStudio-人工智能学习与实训社区 教程进行pytorch相关学习。目录一.概念：张量、算子二.使用pytorch实现张量运算1.2.1创建张量1.2.1.1指定数据创建张量1.2.1.2指定形状创建1.2.1.3指定区间创建1.2.2张量的属性1.2.2.1张... 查看详情
[pytorch系列-18]：pytorch基础-张量的范数(代码片段)
作者主页(文火冰糖的硅基工坊)：https://blog.csdn.net/HiWangWenBing本文网址：https://blog.csdn.net/HiWangWenBing/article/details/119707901目录第1章什么是范数1.1常见的范数与定义1.2代码演示的前置条件1.3范数的函数说明：torch.norm(input,p 查看详情
[pytroch系列-17]：pytorch基础-张量的索引与切片(代码片段)
作者主页(文火冰糖的硅基工坊)：https://blog.csdn.net/HiWangWenBing本文网址：https://blog.csdn.net/HiWangWenBing/article/details/119678906目录第1章张量的索引与切片1.1张量的维度方向1.2张量元素的访问：下标1.3.张量元素的下标切片1.4... 查看详情
[pytroch系列-16]：pytorch基础-张量的操作-变形(代码片段)
作者主页(文火冰糖的硅基工坊)：https://blog.csdn.net/HiWangWenBing本文网址：https://blog.csdn.net/HiWangWenBing/article/details/119490985目录第1章Tensor运算与操作概述1.1概述1.3张量的操作与变换1.4 环境准备1.5 张量的操作-变形（reshape 查看详情
深度学习——基础（基于pytorch代码）(代码片段)
...数管理延后初始化自定义层读写文件GPU预备知识数据操作Pytorch中对数据（tensor张量）的操作类似于Numpy（ndarray），但由于深度学习大都是用GPU进行计算，而Numpy仅支持CPU计算，且Pytorch的张量类支持自动... 查看详情
[pytroch系列-14]：pytorch基础-张量的操作-拼接与堆叠(代码片段)
作者主页(文火冰糖的硅基工坊)：https://blog.csdn.net/HiWangWenBing本文网址：https://blog.csdn.net/HiWangWenBing/article/details/119481948目录第1章Tensor运算概述1.1概述1.3张量的操作与变换1.4 环境准备1.5 张量的操作-拼接与堆叠第2章增加... 查看详情
[pytroch系列-15]：pytorch基础-张量的操作-拆分与分割(代码片段)
作者主页(文火冰糖的硅基工坊)：https://blog.csdn.net/HiWangWenBing本文网址：https://blog.csdn.net/HiWangWenBing/article/details/119489896目录 第1章Tensor运算概述1.1概述1.3张量的操作与变换1.4 环境准备1.5 张量的操作-拆分与分割第2章 平... 查看详情
[pytroch系列-13]：pytorch基础-张量的操作-筛选过滤(代码片段)
作者主页(文火冰糖的硅基工坊)：https://blog.csdn.net/HiWangWenBing本文网址：https://blog.csdn.net/HiWangWenBing/article/details/119465264目录第1章Tensor运算概述1.1概述1.3张量的操作与变换1.4 环境准备1.5 2.数据元素限制：clamp(inpu 查看详情
linux从青铜到王者第十二篇:linux进程间信号第二篇(代码片段)
系列文章目录文章目录系列文章目录前言一、阻塞信号1.信号其他相关常见概念2.在内核中的表示3.sigset_t信号集4.信号集操作函数5.sigprocmask函数6.sigpending函数二、捕捉信号1.内核实现信号的捕捉2.volatile关键字总结前言一、阻塞信... 查看详情
[pytroch系列-11]：pytorch基础-张量tensor元素的排序(代码片段)
作者主页(文火冰糖的硅基工坊)：https://blog.csdn.net/HiWangWenBing本文网址：https://blog.csdn.net/HiWangWenBing/article/details/119459192目录第1章Tensor运算概述1.1概述1.3 “inplace“运算 1.4 Tensor的广播机制:不同维度的张量运算1.5环境准备... 查看详情
pytorch笔记meshgrid(代码片段)
1基本使用方法生成网格输入两个数据类型相同的一维tensor输出两个tensor（tensor行数为第一个输入张量的元素个数，列数为第二个输入张量的元素个数）第一个输出张量填充第一个输入张量中的元素，各行元素相同... 查看详情
pytorch学习系列——环境搭建(代码片段)
文章目录1.安装英伟达驱动2.安装Anaconda环境3.安装pytorch、CUDA和cuDNN环境（1）配置国内镜像加速（2）安装4.查看安装环境的版本4.1查看Anaconda版本4.2查看Nvidia驱动版本4.3查看pytorch版本4.4查看CUDA版本4.5查看cuDNN版本由... 查看详情
pytorch:张量的拼接切分索引
本文已收录于Pytorch系列专栏：Pytorch入门与实践专栏旨在详解Pytorch，精炼地总结重点，面向入门学习者，掌握Pytorch框架，为数据分析，机器学习及深度学习的代码能力打下坚实的基础。免费订阅，持续更新。一、张量... 查看详情
pytorch从入门到精通100讲-pytorch张量从概念到应用(代码片段)
PyTorch张量的创建与基本类型0导读在我们不知道什么是深度学习计算框架时，我们可以把PyTorch看做是Python的第三方库，在PyTorch中定义了适用于深度学习的张量Tensor，以及张量的各类计算。就相当于NumPy中定义的Array和对应的科学... 查看详情
[pytroch系列-7]：pytorch基础-张量tensor的算术运算(代码片段)
作者主页(文火冰糖的硅基工坊)：https://blog.csdn.net/HiWangWenBing本文网址：https://blog.csdn.net/HiWangWenBing/article/details/119428023目录 第1章 Tensor运算概述1.1概述1.3 “inplace“运算 1.4 Tensor的广播机制:不同维度的tensor实例运算 查看详情
[pytroch系列-4]：pytorch基础-张量（tensor）的创建方法(代码片段)
作者主页(文火冰糖的硅基工坊)：https://blog.csdn.net/HiWangWenBing本文网址：https://blog.csdn.net/HiWangWenBing/article/details/119424611目录第1部分 前置条件1.1导入库及检查版本1.2HelloWorld第2部分创建普通Tensor实例的代码示例2.1通过函数... 查看详情
[pytroch系列-12]：pytorch基础-张量tensor线性运算（点乘叉乘）(代码片段)
作者主页(文火冰糖的硅基工坊)：https://blog.csdn.net/HiWangWenBing本文网址：https://blog.csdn.net/HiWangWenBing/article/details/119463478目录 第1章Tensor运算概述1.1概述1.3 “inplace“运算 1.4 Tensor的广播机制:不同维度的张量运算1.5环境准... 查看详情