深度学习神经网络介绍

赵广陆 赵广陆     2022-12-07     574

关键词:

目录


1 深度学习简介

在介绍深度学习之前,我们先看下这幅图:人工智能>机器学习>深度学习

深度学习是机器学习的一个子集,也就是说深度学习是实现机器学习的一种方法。与机器学习算法的主要区别如下图所示:

传统机器学习算术依赖人工设计特征,并进行特征提取,而深度学习方法不需要人工,而是依赖算法自动提取特征,这也是深度学习被看做黑盒子,可解释性差的原因。

随着计算机软硬件的飞速发展,现阶段通过拥有众多层数神经网络(Neural Network)来模拟人脑来解释数据,包括图像,文本,音频等内容。目前来看常用的神经网络包括:

  • 卷积神经网络(Convolutional Neural Network)
  • 循环神经网络(Recurrent Neural Network)
  • 生成对抗网络(Generative Adversarial Networks)
  • **深度强化学习(Deep Reinforcement Learning)**等。

2 神经网络介绍

人工神经网络( Artificial Neural Network, 简写为ANN)也简称为神经网络(NN),是一种模仿生物神经网络结构和功能的 计算模型。人脑可以看做是一个生物神经网络,由众多的神经元连接而成。各个神经元传递复杂的电信号,树突接收到输入信号,然后对信号进行处理,通过轴突输出信号。下图是生物神经元示意图:

那怎么构建人工神经网络中的神经元呢?

受生物神经元的启发,人工神经元接收来自其他神经元或外部源的输入,每个输入都有一个相关的权值(w),它是根据该输入对当前神经元的重要性来确定的,对该输入加权并与其他输入求和后,经过一个激活函数f,计算得到该神经元的输出。

那接下来我们就利用神经元来构建神经网络,相邻层之间的神经元相互连接,并给每一个连接分配一个强度,如下图所示:

神经网络中信息只向一个方向移动,即从输入节点向前移动,通过隐藏节点,再向输出节点移动,网络中没有循环或者环。其中的基本构件是:

  • 输入层:即输入x的那一层
  • 输出层:即输出y的那一层
  • 隐藏层:输入层和输出层之间都是隐藏层

特点是:

  • 同一层的神经元之间没有连接。
  • 第N层的每个神经元和第N-1层的所有神经元相连(这就是full connected的含义),第N-1层神经元的输出就是第N层神经元的输入。
  • 每个连接都有一个权值。

深度强化学习与深度q网络

...节我们先简单介绍一下深度强化学习,然后来看一下深度神经网络是如何跟强化学习算法相结合的。 关于深度强化学习,这里有一篇非常详细的综述论文,笔者仅简单介绍一下 查看详情

深度学习之一:神经网络与深度学习

深度学习之一:神经网络与深度学习1简介本系列内容为AndrewNG的深度学习课程的笔记。深度学习课程在coursera及网易云课堂上都可以免费学习到。课程共计5部分,分别介绍了深度学习,深度学习的优化,深度学习... 查看详情

深度学习介绍及简单应用(代码片段)

...后的主要原理是从大脑中汲取灵感。,这种观点产生了“神经网络”术语,大脑包含数十亿个神经元,它们之间有数万个连接。在许多情况下,深度学习算法类似于大脑,因为大脑和深度学习模型都涉及大量的计算单元(神经元... 查看详情

深度学习系列part

...章的第三篇,主要是接着上一讲提到的如何自己构建深度神经网络框架中的功能模块,进一步详细介绍Tensorflow中Keras工具包提供的几种深度神经网络模块。本系列文章主要介绍如何使用腾讯云GPU服务器进行深度学习运算,前面主... 查看详情

《深度学习》李宏毅--task4深度学习介绍和反向传播机制

深度学习的三个步骤Step1:神经网络(Neuralnetwork)Step2:模型评估(Goodnessoffunction)Step3:选择最优函数(Pickbestfunction)2.1神经网络(Neuralnetwork)神经网络&#x 查看详情

重磅福利!!机器学习和深度学习学习资料合集

比較全面的收集了机器学习的介绍文章,从感知机、神经网络、决策树、SVM、Adaboost到随机森林、DeepLearning。《机器学习经典论文/survey合集》介绍:看题目你已经知道了是什么内容,没错。里面有非常多经典的机器学习论文值得... 查看详情

pythontensorflow实现sequential深度神经网络回归(代码片段)

... 本文介绍基于Python语言中TensorFlow的Keras接口,实现深度神经网络回归的方法。(基于PythonTensorFlowKeras的深度学习回归代码——keras.Sequential深度神经网络)1写在前面  前期一篇文章TensorFlowDNNRegressor实现深度学习的代码详细介绍... 查看详情

机器学习(machinelearning)与深度学习(deeplearning)资料汇总

...机器学习历史的文章,介绍很全面,从感知机、神经网络、决策树、SVM、Adaboost到随机森林、DeepLearning.《DeepLearninginNeuralNetworks:AnOverview》介绍:这是瑞士人工智能实验室JurgenSchmidhuber写的最新版本《神经网络与深 查看详情

机器学习(machinelearning)&深度学习(deeplearning)资料

...一篇介绍机器学习历史的文章,介绍很全面,从感知机、神经网络、决策树、SVM、Adaboost到随机森林、DeepLearning.《DeepLearninginNeuralNetworks:AnOverview》介绍:这是瑞士人工智能实 查看详情

一文开启深度学习之旅(代码片段)

...受深度学习的强大魅力。在本文中,我们将学习经典神经网络架构以及网络内部使用的网络层类型。我们还将构建一个基于全连接网络的线性回归模型,并学习如何使用全连接神经网络构建图像分类模型。同时,我们... 查看详情

算法工程师耗尽心血终成tensorflow深度学习应用实践,值得一学!

...现了深度学习模型,以供读者参考。本篇可作为学习人工神经网络、深度学习TensorFlow程序设计以及图像处理等相关内容的程序设计人员学习。**本篇共22章,内容包括Python类库的安装和使用、TensorFlow基本数据结构和使用、TensorFlow... 查看详情

中公的深度学习培训怎么样?有人了解吗?

.../深度学习与机器学习人工智能的关系及发展简第二阶段神经网络原理及TensorFlow实战梯度下降优化方法前馈神经网络的基本结构和训练过程反向传播算法TensorFlow开发环境安装“计算图”编程模型深度学习中图像识别的操作原理第... 查看详情

深度学习的初学者用哪本书比较好的?

...s库(这两种库均基于Python语言) ,以及卷积神经网络、循环神经网络、自编码器、强化学习、生成对抗网络等内容,还介绍了一些创造性应用,并给出了一些典型的数据集,以帮助读者更好地了解学习。... 查看详情

13个最常用的python深度学习库介绍

...个最常用的Python深度学习库介绍如果你对深度学习和卷积神经网络感兴趣,但是并不知道从哪里开始,也不知道使用哪种库,那么这里就为你提13个最常用的Python深度学习库介绍如果你对深度学习和卷积神经网络感兴趣,但是并... 查看详情

4.深度学习--神经网络编程入门

...深度学习、AI研究很火爆,它们依赖的最底层就是简单的神经网络,本文将介绍神经网络基础,了解基本的神经网络原理,同时给出样例参考,该样例可以推广到其他的分类、回归问题分析关键字:神经网络,BP,网络结构,梯... 查看详情

机器学习和深度学习资料合集

...一篇介绍机器学习历史的文章,介绍很全面,从感知机、神经网络、决策树、SVM、Ada 查看详情

深度学习神经元介绍(代码片段)

目录1激活函数1.1Sigmoid/logistics函数:1.2tanh(双曲正切曲线)1.3RELU1.4LeakReLu1.5SoftMax1.6其他激活函数1.7如何选择激活函数1.7.1隐藏层1.7.2输出层2参数初始化2.1随机初始化2.2标准初始化2.3Xavier初始化2.4He初始化1激活函数人工神经元接... 查看详情

tensorflowdnnregressor实现深度学习的代码(代码片段)

...基于Python语言中TensorFlow的tf.estimator接口,实现深度学习神经网络回归的具体方法。(基于PythonTensorFlowEstimator的深度学习回归与分类代码——DNNRegressor)1写在前面  1.本文介绍的是基于TensorFlowtf.estimator接口的深度学习网络,而非T... 查看详情