关键词：
1. 神经元
Xi为一项输入，Wi为对应的参数
先求和W0*X0+W1*X1+W2*X2+....=sum
再使用激活函数得到f(sum)=y
2. 神经网络
-
输入层 ：负责将输入向量传递给神经网络。如果我们有一个包含 3 个特征的矩阵（形状 N x 3），则该层将 3 个数字作为输入，并将相同的 3 个数字传递给下一层。
-
隐藏层 ：代表中间节点，它们对数字进行多次变换以提高最终结果的准确性，输出由神经元的数量定义。
-
输出层 ：返回神经网络最终输出的 如果我们进行简单的二元分类或回归，输出层应该只有 1 个神经元（因此它只返回 1 个数字）。在具有 5 个不同类别的多类别分类的情况下，输出层应有 5 个神经元。
3. 神经网络模型
标准神经网络、CNN、RNN
4. 激活函数
假设有一个包含 N 行、3 个特征和 1 个目标变量（二分类，取值0或1）的数据集，如下图所示：
接下来我们要进行一个简单的计算来对结果进行预估，下面的操作类似于单个神经网络的计算，f(WX+b)，其中f函数叫做激活函数。
5. 激活函数类型
激活函数是非线性的映射函数，使得神经网络具备强大的非线性拟合学习能力
6. 偏执项(bias）
在每个神经元内部，输入和权重的线性组合也包括一个偏差，类似于线性方程中的常数，因此神经元的完整公式是
7. 反向传播
在训练期间，模型通过将误差传播回节点并更新参数（权重和偏差）来学习以最小化损失。
8. 损失函数
常常利用梯度下降法来使损失函数Loss function的值尽可能小，即让神经网络的预测值（实际输出）和标签值（预期的输出）尽可能接近
如均方误差损失函数(MSE)：
9. 梯度下降
在最陡下降方向上重复步骤来找到损失函数的局部最小值。
来源：
学习深度学习--深度学习中的一些基本概念
https://mp.weixin.qq.com/s/47g5qOTcoFPtHLsoDWarGw?forceh5=1
师妹问我怎么搭建神经网络
https://mp.weixin.qq.com/s/WbA9rdgFV482Q0giT-gU7A?forceh5=1
Keras-人工神经网络--随机梯度下降法
https://www.jianshu.com/p/2d6bbebefd80
通俗易懂讲解ML中的均方误差 (MSE) - haltakov
https://www.jdon.com/57661
微程序学堂
一文看懂四种基本的神经网络架构
...干货就在我的个人博客http://blackblog.tech欢迎关注刚刚入门神经网络，往往会对众多的神经网络架构感到困惑，神经网络看起来复杂多样，但是这么多架构无非也就是三类，前馈神经网络，循环网络，对称连接网络，本文将介绍四... 查看详情
一文看懂「生成对抗网络-gan」基本原理+10种典型算法+13种应用
...versarialNetworks|GAN文章目录GAN的设计初衷生成对抗网络GAN的基本原理GAN的优缺点10大典型的GAN算法GAN的13种实际应用百度百科+维基百科扩展阅读此文章为转载,这是原文地址生成对抗网络–GAN是最近2年很热门的一种无监督算法... 查看详情
一文看懂深度学习——人工智能系列学习笔记
...习的基本概念、优缺点和主流的几种算法。 深度学习、神经网络、机器学习、人工智能的关系深度学习、机器学习、人工智能简单来说：深度学习是机器学习的一个分支(最重要的分支)机器学习是人工智能的一个分支 查看详情
一文看懂nlp预训练模型前世今生
...#xff0c;联系删除转载于：量子位搞出了全球最大预训练模型的悟道团队，现在来手把手地教你怎么弄懂预训练这一概念了。刚刚，清华唐杰教授联合悟道团队发布了一篇有关预训练模型的综述：整篇论文超过40 查看详情
清华唐杰团队：一文看懂nlp预训练模型前世今生
...自凹非寺量子位报道|公众号QbitAI搞出了全球最大预训练模型的悟道团队，现在来手把手地教你怎么弄懂预训练这一概念了。刚刚，清华唐杰教授联合悟道团队发布了一篇有关预训练模型的综述：整篇论文超过40页... 查看详情
模型推理一文看懂winograd卷积加速算法(代码片段)
...篇卷积加速相关的文章，感兴趣的同学可以查阅《【模型推理】一文看懂Img2Col卷积加速算法》、《【模型推理】一文看懂GoogleTPU脉动阵列加速卷积计算原理》、《【模型推理】谈谈为什么 查看详情
一文看懂metaleaaring(元学习)
...网络，孪生网络，匹配网络，关系网络。基于模型的：利用RNN网络和外部存储来实现 查看详情
一文看懂决策树
...它是一种树形结构，所以叫决策树。本文将介绍决策树的基本概念、决策树学习的3个步骤、3种典型的决策树算法、决策树的10个优缺点。什么是决策树？决策树是一种解决分类问题的算法，决策树算法采用树形结构，使用层层... 查看详情
一文看懂javaio系统(转)
...;一文看懂javaio系统 学习javaIO系统，重点是学会IO模型，了解了各种IO模型之后就可以更好的理解javaIOJavaIO是一套Java用来读写数据（输入和输出）的API。大部分程序都要处理一些输入，并由输入产生一些输出。Java为此提... 查看详情
从概念到底层技术，一文看懂区块链架构设计
转自：http://www.8btc.com/ebook-blockchainhttps://blog.csdn.net/lucky_greenegg/article/details/52821924 前言 区块链作为一种架构设计的实现，与基础语言或平台等差别较大。区块链是加密货币背后的技术，是当下与VR虚拟现实等比肩的热... 查看详情
一文看懂img2col卷积加速算法
...接卷积计算一定是很直接的，也是大多数人学习卷积神经网络时所直观了解的卷积计算方式。直接卷积是按照卷积层的计算特性进行计算，卷积核中的权重矩阵在经过补零后的输入特征图中滑动，每次在输入特征图中... 查看详情
一文看懂img2col卷积加速算法
...接卷积计算一定是很直接的，也是大多数人学习卷积神经网络时所直观了解的卷积计算方式。直接卷积是按照卷积层的计算特性进行计算，卷积核中的权重矩阵在经过补零后的输入特征图中滑动，每次在输入特征图中... 查看详情
从概念到底层技术，一文看懂区块链架构设计！
作者：imflyhttps://www.8btc.com/article/106022前言区块链作为一种架构设计的实现，与基础语言或平台等差别较大。区块链是加密货币背后的技术，是当下与VR虚拟现实等比肩的热门技术之一，本身不是新技术，类似Ajax，可以说它是一... 查看详情
k8s就是这么简单！一文看懂其核心概念！(代码片段)
...hello,world来开了个头，这一次我们来了解下K8s的核心概念，K8s的核心概念主要有：Pod、Node、Service等，这些核心概念还有个高大上的名字叫做：资源对象，他们是通过K8s提供的Kubectl工具或者是API调用进行工... 查看详情
一文看懂reacthooks
...存在无状态组件的情况，React将只有类组件和函数组件的概念。众所周知，React应用开发中，组件的状态共享是一件很麻烦的事情，而ReactHook只共享数据处理逻辑，并不会共享数据本身，因此也就不需要关心数据与 查看详情
模型推理一文看懂googletpu脉动阵列加速卷积计算原理
本教程详细解释了GoogleTPU脉动阵列加速卷积计算原理。 TPU中计算卷积的方式和GPU不同，主要是依靠一种称为“脉动阵列”的硬件电路结构来实现的。脉动阵列的主体部分是一个二维的滑动阵列，其中每一个节点都是... 查看详情
从概念到底层技术，一文看懂区块链架构设计（附知识图谱）
[转自]http://www.8btc.com/ebook-blockchain前言 区块链作为一种架构设计的实现，与基础语言或平台等差别较大。区块链是加密货币背后的技术，是当下与VR虚拟现实等比肩的热门技术之一，本身不是新技术，类似Ajax... 查看详情
一文看懂metaleaaring(元学习)
概念MetaLearning（元学习）或者叫做LearningtoLearn（学会学习）已经成为继ReinforcementLearning（增强学习）之后又一个重要的研究分支（以后仅称为MetaLearning）。对于人工智能的理论研究，呈现出了Art... 查看详情