关键词：
文章目录
- 个人学习笔记
- 01-Regression
- 02.1-deeplearning-general_guidance
- 02.2-deeplearning-类神经网络优化技巧
- 02.3-deeplearning-loss_of_classification
- 03-CNN
- 04-Self-attention
- 05-Transformer
- 06-Generative_Model(GAN)
- 07-Self-Supervised_Learning（BERT）
- 08-Auto-encoder
- 09-Adversarial_Attack
- 10-Explainable_AI
- 11-Domain_Adaptation
- 12-Reinforcement_Learning（RL）
- 13-Life_Long_Learning（LLL）
- 14-Compression
- 15-Meta_Learning（元学习）
- 16-总结
简介
- 台湾大学李宏毅老师开设的《机器学习》近年来广受好评，成为国内众多深度学习/人工智能的学生/爱好者的 入门第一课。-虽然课程名叫“机器学习”，但是内容中传统机器学习并不多，主要还是深度学习的内容。
- 2021年，课程内容全面升级，课程网站、授课内容、进度安排、视频质量较先前的版本都有了较大的提升。
主要特点：- 英文PPT，中文讲授，既能够了解相关术语的英文表达，又不会在学习的时候因语言壁垒而出现困难。
- 课程讲解思路清晰、生动有趣、案例丰富、深入浅出，摒弃复杂的数学内容，集中展示“直观的认识”。
- 课程资料中保留了大量参考文献，适合于深耕某一领域的从业者，也保留了大量实用的样例代码，能够在简单地魔改以后应用到别的任务中，适合于各种水平层次的入门！
主要参考资料：
- 台大《机器学习》课程官网：https://speech.ee.ntu.edu.tw/~hylee/ml/2021-spring.html
- B站搬运视频：https://www.bilibili.com/video/BV1Wv411h7kN
- 其他参考资料：
- 课件和资料Github版：https://github.com/Fafa-DL/Lhy_Machine_Learning
- 课件和资料Gitee版：https://gitee.com/zzhzwh/Lhy_Machine_Learning
- 部分笔记：https://github.com/unclestrong/DeepLearning_LHY21_Notes
内容示意
个人学习笔记
鉴于个人习惯，本人将学习笔记记录在notion上。以下是跳转至各篇笔记的链接。
01-Regression
https://diamond-mule-bee.notion.site/01-Regression-db3f17ba626a43668e016d09d39e35e5
02.1-deeplearning-general_guidance
02.2-deeplearning-类神经网络优化技巧
https://diamond-mule-bee.notion.site/02-2-DeepLearning-25ed6d30c1ee446e964bbe2fddc5220f
02.3-deeplearning-loss_of_classification
03-CNN
https://diamond-mule-bee.notion.site/03-CNN-91e08c7b29e1446fb363f881f21f9287
04-Self-attention
https://diamond-mule-bee.notion.site/04-Self-attention-47c5c10105794b8f939b01c65885ef5b
05-Transformer
https://diamond-mule-bee.notion.site/05-Transformer-885ecb94414c436692f7bb12bdc609aa
06-Generative_Model(GAN)
https://diamond-mule-bee.notion.site/06-Generative-Model-GAN-b31049277b334c94b3dea56235700460
07-Self-Supervised_Learning（BERT）
08-Auto-encoder
https://diamond-mule-bee.notion.site/08-Auto-encoder-57c07342cd7642298e897d0ad04aa502
09-Adversarial_Attack
https://diamond-mule-bee.notion.site/09-Adversarial-Attack-125d90a904ab4c7ab4db7162c9f1cbea
10-Explainable_AI
https://diamond-mule-bee.notion.site/10-Explainable-AI-9ea7e4815dfb4c94bff3e8dd596ded42
11-Domain_Adaptation
https://diamond-mule-bee.notion.site/11-Domain-Adaptation-c6f428ddbe264c878b2fa8bdf2d124dd
12-Reinforcement_Learning（RL）
https://diamond-mule-bee.notion.site/12-Reinforcement-Learning-RL-00c5c8c0e77749e3add1726525467ff5
13-Life_Long_Learning（LLL）
https://diamond-mule-bee.notion.site/13-Life-Long-Learning-LLL-120a6afa51a84f238a3f59a926ae082d
14-Compression
https://diamond-mule-bee.notion.site/14-Compression-523b9ce9e62640aab94d2e82dc975923
15-Meta_Learning（元学习）
https://diamond-mule-bee.notion.site/15-Meta-Learning-b98f8168d4044ad783b6241acd4e666a
16-总结
https://diamond-mule-bee.notion.site/16-c6364089b256467b98f3aa1c025d51b6
李宏毅机器学习笔记：1.机器学习介绍(代码片段)
文章目录P1:机器学习介绍1.1人工智能、机器学习、深度学习关系1.2实现途径1.3实现方法1.4总结P2:我们为什么需要学习机器学习#Time:2021.08.23#内容：P1~P2P1:机器学习介绍1.1人工智能、机器学习、深度学习关系①什么是人工智能&#x... 查看详情
学习笔记李宏毅2021春机器学习课程第5.1节：transformer
...目录1序列到序列的模型2Seq2seqmodel常见的应用场景2.1聊天机器人2.2问题回答(QA)2.3文法剖析2.4多标签分类2.5对象检测3Seq2seqmodel的整体架构4编码器的具体架构1序列到序列的模型Transformer本质上就是一个Sequence-to-sequence的model，我... 查看详情
学习笔记李宏毅2021春机器学习课程第7.2节：自监督学习
文章目录1为什么BERT有用?2多语言的BERT2.1跨语言的阅读理解2.2跨语言对齐1为什么BERT有用?最常见的解释是，当输入一串文本时，每个文本都有一个对应的向量。对于这个向量，我们称之为embedding。它的特别之处在于... 查看详情
视频+ppt2021年李宏毅版40节机器学习课程已更新完毕，推荐收藏！
提起李宏毅老师，熟悉机器学习的读者朋友一定不会陌生。最典型的就是开局一言不合就“宝可梦”。李宏毅老师幽默风趣的教学风格也吸引力很多机器学习爱好者。李宏毅老师，是宝岛台湾大学电机工程系教授，他... 查看详情
李宏毅机器学习课程笔记
课程资源B站视频课程网址课程笔记问答整理下面仅记录自己的所得所感第一节Regression从单变量回归引入，再sigmoid/RELU拟合函数从而一步步到深度学习的框架，介绍的非常巧妙。尤其在sigmoid/RELU拟合函数那里，听了之... 查看详情
李宏毅2020机器学习深度学习笔记2
实验中：learningrate调太大太小都不好，应该先生成loss函数然后观察一会儿再让他跑着 实际优化：因为我们希望在离target远的时候大步走，越靠近target越慢，因此我们可以用\\eta^t进一步，我们知道learningrat... 查看详情
李宏毅2023春季机器学习课程
...作业一课程地址项目内容视频合集【授权】李宏毅2023春机器学习课程(强推)李宏毅2021/2022春机器学习课程课程主页李宏毅2023春季机器学习李宏毅2022春季机器学习李宏毅2021春季机器学习B站主页/公众号啥都会一点的研究生人工智... 查看详情
李宏毅机器学习2021视频-p2学习笔记系列
1 机器学习的基本概念 2.机器学习的分类Regression(回归)就是找到一个函数function，通过输入特征x，输出一个数值 Scalarclassification(分类)：给定类别，选择正确的一种（围棋也是一种分类，知道下一步棋子... 查看详情
反向传播-李宏毅机器学习笔记
输入通过前向传播由输入层传播到输出层；梯度通过后向传播由输出层传播到输入层。 N个样本的损失函数，其中代表单个样本损失函数：求解梯度，以weight为例，bias同理：可见，我们只要求解单个样... 查看详情
李宏毅2020机器学习深度学习笔记1+2&&深度学习基础与实践课程笔记2
机器学习：研究如何从观测数据(observations)中寻找“规律”(skill)，这些规律可以在未知数据上的表现有所改进。目的：使用“高质量”的训练数据，构建“合适”的模型，以“更佳地”完成任务。本质：让... 查看详情
分类：概率生成模型-李宏毅机器学习笔记
目录1.若用回归模型硬train分类任务2.二分类任务2.1 概率生成模型3.数学上的形式1.若用回归模型硬train分类任务如图，class2的标签是-1（红色的点），class1的标签是1（蓝色的点），横纵坐标是特征值。... 查看详情
可解释机器学习（explainable/interpretablemachinelearning）的原理和应用（李宏毅视频课笔记）
文章目录0前言1IntroductionofExplainable/InterpretableML1.1WhyweneedExplainableML?1.2Interpretablev.s.Powerful2LocalExplanation2.1IntroductionofLocalExplanation2.1.1RemovingWay2.1.2ModifyingWay2.1.3Limitatio 查看详情
1-4李宏毅2021春季机器学习教程-pytorch教学-助教许湛然(代码片段)
1-3李宏毅2021春季机器学习教程-GoogleColab教学-助教许湛然介绍了Colab的使用，这篇文章是助教许湛然关于PyTorch框架的简要讲解。更多操作查看:https://pytorch.org/docs/stable/tensors.html目录Prerequisites-准备工作WhatisPyTorch?-什么是pytorch?... 查看详情
李宏毅机器学习笔记（2016年的课程）：supportvectormachine(svm)(代码片段)
目录1.各种loss函数2.线性SVM3.kernel3.1前言3.2各种kernel3.3kernelVS神经网络1.各种loss函数f=np.arange(-3,3+1e-8,0.001)py=np.array([1.]*len(f))defget_ideal(yf):returnnp.where(yf>=0,0,1)defsquare(yf):retur 查看详情
台大李宏毅《机器学习》2021课程撒花完结！除了视频ppt，还有人汇编了一本答疑书...
点击机器学习算法与Python学习，选择加星标精彩内容不迷路机器之心报道今年2月末，「精灵宝可梦大师」李宏毅的《机器学习》最新一期课程正式开课。对于想要入门机器学习的同学来说，这是一门不容错过的经典... 查看详情
组队学习李宏毅的深度学习-1
一、学习总任务二、完成任务1Task01——机器学习介绍 Part1：任务综述 本任务主要是需要掌握机器学习的基本内容，包括简要历史、相关概念、主要相关技术的介绍。 Part2：主要内容笔记1.人工智慧，机器学... 查看详情
《深度学习》--李宏毅学习笔记总结（待更新）
李宏毅《机器学习》丨7.conclusion（总结）
Author：AXYZdong李宏毅《机器学习》系列参考视频地址：https://www.bilibili.com/video/BV1Ht411g7Ef参考文档：DataWhale文档六个Task李宏毅机器学习丨1.Introductionofthiscourse（机器学习介绍）李宏毅机器学习丨2.Regressionÿ 查看详情