组队学习李宏毅的深度学习-1

Mia2019 Mia2019     2022-12-22     319

关键词:

 一、学习总任务

二、完成任务1

Task01——机器学习介绍

 Part1:任务综述

      本任务主要是需要掌握机器学习的基本内容,包括简要历史、相关概念、主要相关技术的介绍。

 Part2:主要内容笔记

1.人工智慧,机器学习,深度学习的关系

        人工智慧是我们想要达成的目标,而机器学习是想要达成目标的手段,深度学习就是机器学习的其中一种方法。

       若想机器具备人工智慧,那么根据生物智慧的性质,有那种方式,一是让机器具备本能,二是通过后天学习的手段让机器表现的很有智慧。由于是机器,机器的本能性是人类提前灌输给它的内容,称为规则。它根据人类设定好的规则进行各种行为。那么人类想不到东西,就没办法写规则,没有写规则,机器就不知道要怎么办。如此,就必须给以派给成千上万的工程师,用血汗的方式来建出数以万计的规则,然后让他的机器看起来好像很聪明。机器的学习性主要体现在不需要非常大量的人来帮你想各式各样的规则,只要手上有data,你可以让机器通过自身反复学习来帮你做这件事情。

2.机器学习的基本框架

     a、确定function集合;b、找到评价标准;c、找到最好的function

 3.基于Learning Map介绍相关技术

 a.监督学习(supervised learning)

监督学习是一种传统的机器学习方式。是告诉机器function的input和output,机器通过我们提供给它的training data而学习后得到output.

其中,Regression是一种machine learning的task,它的输出是一个scalar。

Regression和Classification的差别是机器输出类型不一样。在Regression中机器输出的是一个数值,在Classification里面机器输出的是类别。假设Classification问题分成两种,一种叫做二分类输出的是是或否(Yes or No);另一类叫做多分类(Multi-class)。

我们知道,机器在解任务的过程中第一步就是要选择function set,选不同的function set就是选不同的model。Model有很多种,有线性模型和非线性模型。在非线性的模型中最耳熟能详的就是Deep learning。(注意:除了deep learning 以外还有很多machine learning的model也是非线性的模型)

b.半监督学习(Semi-Supervised Learning,SSL) 

半监督学习使用大量的未标记数据,以及同时使用标记数据,来进行模式识别工作。(means:监督学习的训练数据都是有标签的)

c.迁移学习(Transfer learning)

迁移学习就是把为任务 A 开发的模型作为初始点,重新使用在为任务 B 开发模型的过程中。这个学习有些像让机器学会举一反三。

 d.无监督学习(Unsupervised Learning)

通过监督学习的对比来理解无监督学习:

  • 监督学习是一种目的明确的训练方式,你知道得到的是什么;而无监督学习则是没有明确目的的训练方式,你无法提前知道结果是什么
  • 监督学习需要给数据打标签;而无监督学习不需要给数据打标签
  • 监督学习由于目标明确,所以可以衡量效果;而无监督学习几乎无法量化效果如何

d.强化学习(Reinforcement Learning, RL)

这种学习方法是不断语环境的交互、试错,最终得到特定目的。

深度学习李宏毅《机器学习》学习笔记

【深度学习】李宏毅《机器学习》学习笔记2021年8月16日P1-P2节-机器学习介绍和为什么要学习机器学习1950年,人工智能就出现了好厉害~~机器学习中包含了深度学习。早期的人工智能其实都是想当于给河狸装上一个先天的本能... 查看详情

《深度学习》--李宏毅学习笔记总结(待更新)

查看详情

分类|深度学习(李宏毅)

一、生成模型假设有两个类别(C_1、C_2),(P(C_1|x)=fracP(x|C_1)P(C_1)P(x|C_1)P(C_1)+P(x|C_2)P(C_2))其中(P(C_1)、P(C_2))为先验分布,(P(x|C_1)、P(x|C_2))都是高斯分布,服从以下分布:[f_mu,Sigma(x)=fra 查看详情

一天搞懂深度学习--李宏毅教程分享

原标题:【286页干货】一天搞懂深度学习(台湾资料科学年会课程)    本文是2016台湾资料科学年会前导课程“一天搞懂深度学习”的全部讲义PPT(共268页),由台湾大学电机工程学助理教授李宏毅主讲。作者在... 查看详情

李宏毅2020机器学习深度学习笔记1+2&&深度学习基础与实践课程笔记2

机器学习:研究如何从观测数据(observations)中寻找“规律”(skill),这些规律可以在未知数据上的表现有所改进。目的:使用“高质量”的训练数据,构建“合适”的模型,以“更佳地”完成任务。本质:让... 查看详情

第25月第6天李宏毅深度学习

1.李宏毅 https://www.bilibili.com/video/av20544709/?p=3http://speech.ee.ntu.edu.tw/~tlkagk/courses_ML17_2.html 2.文刀神经网络 https://space.bilibili.com/311648538/#/channel/detail?cid=48663  查看详情

李宏毅机器学习笔记:1.机器学习介绍(代码片段)

文章目录P1:机器学习介绍1.1人工智能、机器学习、深度学习关系1.2实现途径1.3实现方法1.4总结P2:我们为什么需要学习机器学习#Time:2021.08.23#内容:P1~P2P1:机器学习介绍1.1人工智能、机器学习、深度学习关系①什么是人工智能&#x... 查看详情

回归|深度学习(李宏毅)

...梯度虽然大但是可能会比梯度小的点离极值点更近,因此学习率需要考虑二次微分的影响,除以所有梯度的均方根是为了近似表示二次微分。RMSProp类比Adagrad的一种优化方法,与Adagrad 查看详情

李宏毅《机器学习》丨1.introductionofthiscourse(机器学习介绍)

Author:AXYZdong李宏毅《机器学习》系列参考视频地址:https://www.bilibili.com/video/BV1Ht411g7Ef参考文档:DataWhale文档文章目录一、人工智能、机器学习和深度学习二、机器学习(MachineLearning)三、机器学习相关的技... 查看详情

台大李宏毅课程学习总结

...进入中科院计算所的第一周,周一的时候参加第一次组内学习班,发现自己在机器学习和深度学习方面的基础真的是很薄弱,于是决定认真从头看完台大李宏毅《机器学习与深度学习》课程的完整视频学习。所为机器学习,其实... 查看详情

李宏毅《机器学习》丨4.deeplearning(深度学习)

Author:AXYZdong李宏毅《机器学习》系列参考视频地址:https://www.bilibili.com/video/BV1Ht411g7Ef参考文档:DataWhale文档文章目录一、深度学习发展历史二、深度学习三个步骤2.1Step1:神经网络(Neuralnetwork)2.2Step2... 查看详情

李宏毅机器学习深度学习介绍与反向传播机制

BatchandMomentumReview:OptimizationwithBatch上次我们有讲说,我们实际上在算微分的时候,并不是真的对所有Data算出来的L作微分,你是把所有的Data分成一个一个的Batch,有的人是叫MiniBatch,那我这边叫做Batch,其实指的是一样的东西,助教投... 查看详情

深度学习的三个主要步骤!

↑↑↑关注后"星标"Datawhale每日干货 & 每月组队学习,不错过 Datawhale干货 作者:屈太国,湖南大学,Datawhale优秀学习者本文来自李宏毅机器学习笔记(LeeML-Notes)组队学习,详细介绍了使用... 查看详情

《深度学习》李宏毅--task4深度学习介绍和反向传播机制

深度学习的三个步骤Step1:神经网络(Neuralnetwork)Step2:模型评估(Goodnessoffunction)Step3:选择最优函数(Pickbestfunction)2.1神经网络(Neuralnetwork)神经网络&#x 查看详情

《深度学习》李宏毅--task7总结

总结:进一步学习机器学习基础,希望以后有机会多多实践,为以后进入这个领域做准备。学习内容:01-机器学习介绍介绍机器学习的概念,监督学习,无监督学习,迁移学习,强化学习等概念02-... 查看详情

李宏毅深度学习cp13transformer(part2)(代码片段)

学习总结(1)上一小节主要是先讲Encoder,这次是学习Decoder(根据并行性分为AT和NAT两种)、Encoder和Decoder之间的关系(通过CrossAttention机制)还有训练的一些tips(好多tips呜呜)。(2)Cr... 查看详情

李宏毅2020机器学习深度学习笔记2

实验中:learningrate调太大太小都不好,应该先生成loss函数然后观察一会儿再让他跑着 实际优化:因为我们希望在离target远的时候大步走,越靠近target越慢,因此我们可以用\\eta^t进一步,我们知道learningrat... 查看详情

李宏毅深度学习cp12transformer(part1)

学习总结(1)上半部分是详解Seq2seq在各领域的应用效果挺好,如聊天机器人、QA问答系统、语法分析、目标检测等,下半部分是初探transformer的Encoder模块,其实就在原来的self-attention机制基础上加上residualconnec... 查看详情