关键词：
开始写一系列的学习笔记，基于吴恩达的《深度学习》课程，大致一周为一篇。第一节这个没什么内容
注：文章中的很多图片也是来自该课程的
课程链接：http://mooc.study.163.com/smartSpec/detail/1001319001.htm
目录
- 什么是神经网络
- ReLu修正线性单元
- 监督学习supervised learning
- 结构化/非结构化数据
- 为什么深度学习会兴起
一、什么是神经网络
神经网络：定义好输入和输出，喂给足够多的数据，神经网络就可以自己学习出两者的映射关系
例1：房屋价格预测
房屋大小（输入x）->函数（神经元）->房屋价格（输出y）
例2：房屋价格预测（多神经元）
| 输入 | 隐藏单元 | 输出 | ||
| size | -> | family | —> | price |
| bedrooms | walkability | |||
| zip code | school quality | |||
| wealth |
给足够多的(x, y)样本，神经网络就会找到最好的映射方法
二、ReLu修正线性单元
函数的特点是开头一部分的取值为0（避免不可以小于0的情况）
三、 监督学习supervised learning
已知输入x和输出y(标签)，通过样本学习出一个映射函数
比如：自动驾驶、翻译、广告（是否能被点击）、房价估值、音频转换成文字、图像识别 
四、结构化数据：每个数据有确定的定义，数据库
非结构化数据：如音频、视频、图像、文字等
五、为什么神经网络/深度学习会兴起？
- 神经网络使得计算机可以更好地理解非结构化数据(图像、音视频等)，由此可以做出更多应用
- 传统的机器学习在数据增加的早期性能会增加(依赖于好的人工设计)，但后面就会趋于平缓，因为他们不能很好地处理海量数据。传统的机器学习有一个重点是特征工程，如果数据量很大，人工去从中提取“正确”的特征是很难的
- 随着数据量的增大，计算性能的提高，让计算机可以处理更多的数据，由此训练更大的神经网络，从而得到更好的性能
- 一些好的算法的提出也促进了神经网络的发展
(面试被问到了(*￣︶￣))
《andrewng深度学习》笔记1
深度学习概论1.什么是神经网络？2.用神经网络来监督学习3.为什么神经网络会火起来？1.什么是神经网络？深度学习指的是训练神经网络。通俗的话，就是通过对数据的分析与计算发现自变量与因变量的映射关系(神经网络模型)... 查看详情
统计学习方法笔记——统计学习方法概论
1.统计学习 统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科，也称统计机器学习。统计学习是数据驱动的学科。统计学习是一门概率论、统计学、信息论、计... 查看详情
al_深度学习概论
什么是是神经网络？ 假如有6间房屋的数据集，已知房子的面积，单位是平方米或平方英尺，已知房子的价格。如果通过这6间房子的价格和房子的面积，预测房子的价格，首先要建立起一个数据模型，x轴为价格，y轴为房子... 查看详情
数据库系统概论学习笔记
数据库系统概论学习笔记（一）时间：第一周 年级：大三 学生：南通大学网络工程何季生2017.9.14一.绪论1.1数据库系统概述 1.数据 描述事物的符号记录称为数据。数据的含义称为数据的语义，数据与... 查看详情
python深度学习之路-1机器学习概论
【Python深度学习之路】-1机器学习概论1.1机器学习简介机器学习火热的原因是：人类无论如何也做不到在短时间内实现从大量数据中自动地计算出正确结果的操作。所谓机器学习：通过对数据进行反复的学习，来找出... 查看详情
python深度学习之路-1机器学习概论
【Python深度学习之路】-1机器学习概论1.1机器学习简介机器学习火热的原因是：人类无论如何也做不到在短时间内实现从大量数据中自动地计算出正确结果的操作。所谓机器学习：通过对数据进行反复的学习，来找出... 查看详情
数据库系统概论学习笔记-第一章绪论
...荣耀等游戏上分花销一点时间之外，自认为要花一点时间学习数据库和Android，以此来为下学期和共建项目打下一丢丢的基础。为了鞭策自己，定了一个小目标（一个亿），每个两至三天我会发表一篇数据库或Android学习笔记。还... 查看详情
设计模式学习笔记概论
1、设计模式的发展史设计模式来源于建筑行业，20世纪的70年代，ChristopherAlexander在研究为解决同一个问题而设计出的不同建筑结构时，发现那些高质量的设计中有很强的相似性。提出用“模式语言”来指代这种相似性。在Christop... 查看详情
深度学习笔记：lstm
深度学习笔记(一)：logistic分类深度学习笔记(二)：简单神经网络，后向传播算法及实现深度学习笔记(三)：激活函数和损失函数深度学习笔记(四)：循环神经网络的概念，结构和代码注释深度学习笔记(五)：LSTM看到一篇讲LSTM非常... 查看详情
深度学习笔记：lstm
深度学习笔记(一)：logistic分类深度学习笔记(二)：简单神经网络，后向传播算法及实现深度学习笔记(三)：激活函数和损失函数深度学习笔记：优化方法总结(BGD,SGD,Momentum,AdaGrad,RMSProp,Adam)深度学习笔记(四)：... 查看详情
深度学习深度学习基础学习笔记(代码片段)
深度学习基础🔭文章目录深度学习基础🔭前言🎠一、深度学习与传统机器学习的区别？二、深度学习的改进点1.更加合适目标函数2.新增Softmax层3.激活函数进化历程4.梯度下降算法进化历程5.BatchNormalization的由来6.... 查看详情
李沐深度学习课程---学习笔记目录
1.深度学习环境配置&在云服务器上运行jupyternotebook 查看详情
《python深度学习》第一章笔记
《Python深度学习》第一章笔记1.1人工智能、机器学习、深度学习人工智能机器学习深度学习深度学习的工作原理1.2深度学习之前：机器学习简史概率建模早期神经网络核方法决策树、随机森林与梯度提升机回到神经网络1.1人... 查看详情
大话存储ii学习笔记（15章），集群概论
随着应用程序对服务器、存储系统的系统要求越来越高，单台设备有时已经无法满足需求了，此时我们有两种方法可以解决：使用性能更高的机器，但是成本以及维护成本非常高，而且不见得适合所有的应用。多台设备联合起来... 查看详情
《深度学习》--李宏毅学习笔记总结（待更新）
scalerstalk机器学习小组第21周学习笔记（深度学习-10）
ScalersTalk机器学习小组第21周学习笔记（深度学习-10）Scalers点评：机器学习小组是成长会的内部小组，这是成长会机器学习小组第21周学习笔记，也是深度学习第10次的复盘笔记本周学习情况：本周（2016... 查看详情
《python深度学习》第一章读书笔记
《Python深度学习》读书笔记第一章什么是深度学习1.1人工智能、机器学习与深度学习人工智能的简洁定义:努力将通常由人类完成的智力任务自动化。机器学习与数理统计密切相关。机器学习(尤其是深度学习)呈现出相对较少的数... 查看详情
深度学习文献阅读笔记
21、深度神经网络在视觉显著性中的应用（VisualAttentionwithDeepNeuralNetworks）（英文，会议论文。2015年，IEEE检索） 这篇文章主要讲CNN在显著性检測领域的应用。 22、深度学习研究进展（中文，期刊，2015年。知网）... 查看详情