深度学习中CNN的窗口大小如何选择?

     2023-02-23     99

关键词:

【中文标题】深度学习中CNN的窗口大小如何选择?【英文标题】:How to choose the window size of CNN in deep learning? 【发布时间】:2018-04-12 06:27:15 【问题描述】:

在卷积神经网络 (CNN) 中,选择一个过滤器用于权重共享。例如,在下图中,选择了一个 3x3 的窗口,步幅(相邻神经元之间的距离)为 1。

所以我的问题是:如何选择窗口大小?如果我使用 4x4,步幅为 2,会造成多大的差异?提前非常感谢!

【问题讨论】:

【参考方案1】:

对此没有明确的答案:过滤器大小是您通常需要调整的超参数之一。但是,有一些有用的观察结果可能会对您有所帮助。通常首选较小的过滤器,但有更多的过滤器。

示例:四个5x5 过滤器有100 个参数(忽略偏差),而10 个3x3 过滤器有90 个参数。通过较大的过滤器,您仍然可以捕获图像中的各种特征,但参数较少。更多关于这个here。

现代 CNN 在这个想法上走得更远,并选择连续的 3x11x3 卷积层。这进一步减少了参数的数量,但不影响性能。见evolution of inception network。

步幅的选择也很重要,但它会影响卷积后的张量形状,从而影响整个网络。一般规则是在通常的卷积中使用stride=1,并通过填充保留空间大小,并在要对图像进行下采样时使用stride=2

【讨论】:

如何在 Theano 中更改 CNN 中卷积层的大小

...2015-12-1500:42:08【问题描述】:我正在使用Theanolibrary进行深度学习分类。在convolutional_mlp代码中,它使用两个大小为(5,5)的卷积层和(2,2)的max_pool层以及一个完全隐藏层,如下所示:#4Doutputt 查看详情

使用 Keras 的 CNN 深度学习模型中的 PCA

】使用Keras的CNN深度学习模型中的PCA【英文标题】:PCAinCNNdeeplearningmodelusingKeras【发布时间】:2019-12-1006:12:16【问题描述】:我使用Keras构建了一个用于图像分类的CNN模型,我想对模型使用主成分分析(PCA)。如何使用CNN中的PCA使用K... 查看详情

利用更快的r-cnn深度学习进行目标检测(代码片段)

...何使用名为“更快r-cnn(具有卷积神经网络的区域)”的深度学习技术来训练对象探测器。概述此示例演示如何训练用于检测车辆的更快r-cnn对象探测器。更快的r-nnn[1]是r-cnn[2]和快速r-nnn[3]对象检测技术的引伸。所有这三种技术... 查看详情

cnn学习笔记3

区分深度学习中epoch、iteration、batchsize(1)batchsize:批大小。在深度学习中,一般采用SGD训练,即每次训练在训练集中取batchsize个样本训练(2)iteration:1个iteration等于使用batchsize个样本训练一次(3)epoch:1个epoch等于使用训练集中... 查看详情

你都有哪些炼丹神器深度学习(rnn、cnn)调参的经验?

对于rnn和cnn这种深度学习模型,常用的炼丹神器可能包括:调节学习率:学习率较小可以保证模型在训练时稳定,但是训练速度较慢;学习率较大可能会使模型在训练时快速收敛,但是有可能导致过拟合。调节隐藏单元数量:隐... 查看详情

卷积填充步长;卷积神经网络的卷积核大小个数,卷积层数如何确定呢;深度学习如何调参;

卷积、填充、步长;卷积神经网络的卷积核大小、个数,卷积层数如何确定呢;深度学习如何调参;目录CNN基础知识——卷积(Convolution)、填充(Padding)、步长(Stride)【卷积(Convolution)】 查看详情

卷积填充步长;卷积神经网络的卷积核大小个数,卷积层数如何确定呢;深度学习如何调参;

卷积、填充、步长;卷积神经网络的卷积核大小、个数,卷积层数如何确定呢;深度学习如何调参;目录CNN基础知识——卷积(Convolution)、填充(Padding)、步长(Stride)【卷积(Convolution)】 查看详情

深度学习要点———神经网络的类型

CNN(ConvolutionalNeuralNetwork)  (1)CNN的概念  CNN,常被称作卷积神经网络,经常被用于图像处理。  CNN最关键的两个步骤是:卷积与池化。以下是它的过程图: CNN之所以能够进行卷积,有两点理由:1.图像的模式会远远... 查看详情

对卷积神经网络(cnn)的理解——深度学习

本文翻译自UnderstandingofConvolutionalNeuralNetwork(CNN)—DeepLearning--Prabhu在神经网络中,卷积神经网络(ConvNetes或CNN)是用于图像识别、图像分类的主要类别之一。在对象检测(Objectdetection)、人脸识别(recognition)等领域被广泛使用。CNN图像分类... 查看详情

深度学习笔记

一、R-CNN增加了候选区域选择,先选择几个候选区,然后在候选区中做检测。二、mini-batch&BatchNormalization 我们已知在梯度下降中需要对所有样本进行处理过后然后走一步,那么如果我们的样本规模的特别大的话效率就会比... 查看详情

深度学习的卷积神经网络(cnn)情绪表情识别与分析系统

....1.0.25、TensorFlow2.2点击下载:点击下载简要概述:深度学习的卷积神经网络(CNN)情绪识别与分析系统,PythonQt软件界面,深度学习,卷积神经网络,机器学习 查看详情

深度学习入门基础cnn系列——感受野和多输入通道多输出通道以及批量操作基本概念

...网络中的感受野和通道的基本概念,适合于准备入门深度学习的小白,也可以在学完深度学习后将其作为温习。如果对卷积计算没有概念的可以看本博主的上篇文章深度学习入门基础CNN系列——卷积计算一、感受野(... 查看详情

科普-深度学习中的卷积

...、四肢和尾部)。 单通道版本单个通道的卷积 在深度学习中,卷积是元素对元素的加法和乘法。对于具有一个通道的图像,卷积如上图所示。这里的滤波器是一个3x3的矩阵[[0,1,2],[2,2,0],[0,1,2]]。滤波器滑过输入,在每个... 查看详情

深度学习在视频多目标跟踪中的应用综述

...经典的指标完整的MOT指标ID分数2.3、基准数据集3、MOT中的深度学习3.1、深度学习中的检测步骤3.1.1、FasterR-CNN3.1.2、SSD3.1.3、Otherdetectors3.1.4、cnn在检测步骤中的其他用途3.2、深度学习在特征提取和运动预测中的应用3.2.1、自动编码... 查看详情

深度学习在视频多目标跟踪中的应用综述

...经典的指标完整的MOT指标ID分数2.3、基准数据集3、MOT中的深度学习3.1、深度学习中的检测步骤3.1.1、FasterR-CNN3.1.2、SSD3.1.3、Otherdetectors3.1.4、cnn在检测步骤中的其他用途3.2、深度学习在特征提取和运动预测中的应用3.2.1、自动编码... 查看详情

深度机器学习中的batch的大小对学习效果有何影响

参考技术A深度机器学习中的batch的大小对学习效果有何影响?如题,在深度学习中,刚入门的小弟一直听闻一个batch中同时训练多个数据可以得到较好的效果,于是小弟在caffe上跑deepID的网络时对如何选取batchsize颇具困惑。恳求... 查看详情

深度学习卷积神经网络(cnn)简介(入门级好文)

卷积神经网络CNN简介学习目标1.更复杂抽象的数据2.激活函数的选择2.1为什么需要非线性的激活函数2.2更多发展3.为什么需要卷积神经网络3.1感受野4.边缘检测学习目标目标了解线性网络以及多层网络模型缺陷知道为什么需要非线... 查看详情

cnn中常用的四种卷积详解

卷积现在可能是深度学习中最重要的概念。正是靠着卷积和卷积神经网络,深度学习才超越了几乎其他所有的机器学习手段。这期我们一起学习下深度学习中常见的卷积有哪些?1.一般卷积卷积在数学上用通俗的话来说就是输入... 查看详情