ai技术说:人工智能相关概念与发展简史

author author     2022-11-06     323

关键词:

作者:个推大数据科学家朱金星

作为近几年的一大热词,人工智能一直是科技圈不可忽视的一大风口。随着智能硬件的迭代,智能家居产品逐步走进千家万户,语音识别、图像识别等AI相关技术也经历了阶梯式发展。如何看待人工智能的本质?人工智能的飞速发展又经历了哪些历程?本文就从技术角度为大家介绍人工智能领域经常提到的几大概念与AI发展简史。

一、人工智能相关概念
1、人工智能(Artifical Intelligence, AI):就是让机器像人一样的智能、会思考,
是机器学习、深度学习在实践中的应用。人工智能更适合理解为一个产业,泛指生产更加智能的软件和硬件,人工智能实现的方法就是机器学习。
技术分享图片
2、数据挖掘:数据挖掘是从大量数据中提取出有效的、新颖的、有潜在作用的、可信的、并能最终被人理解模式(pattern)的非平凡的处理过程。

数据挖掘利用了统计、机器学习、数据库等技术用于解决问题;数据挖掘不仅仅是统计分析,而是统计分析方法学的延伸和扩展,很多的挖掘算法来源于统计学。

3、机器学习:专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,机器学习是对能通过经验自动改进的计算机算法的研究。
技术分享图片
机器学习是建立在数据挖掘技术之上发展而来,只是数据挖掘领域中的一个新兴分支与细分领域,只不过基于大数据技术让其逐渐成为了当下显学和主流。它是人工智能的核心,是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。
技术分享图片
4、深度学习(Deep Learning):是相对浅层学习而言的,是机器学习研究中的一个新的领域,其动机在于建立、模拟人脑进行分析学习的神经网络。它模仿人脑的机制来解释数据,例如图像,声音和文本。深度学习的概念源于人工神经网络的研究。深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征,以发现数据的分布式特征表示。

到了当下,经过深度学习技术训练的机器在识别图像方面已不逊于人类,比如识别猫、识别血液中的癌细胞特征、识别MRI扫描图片中的肿瘤。在谷歌AlphaGo学习围棋等等领域,AI已经超越了人类目前水平的极限。

为了方便大家理解,我们将上文提到的四个概念的关系用下图表示。需要注意的是,图示展现的只是一种大致的从属关系,其中数据挖掘与人工智能并不是完全的包含关系。
技术分享图片

二、人工智能发展历史
技术分享图片
(图片来源于网络)

由图可以明显看出Deep Learning从06年崛起之前经历了两个低谷,这两个低谷也将神经网络的发展分为了几个不同的阶段,下面就分别讲述这几个阶段。

1、 第一代神经网络(1958-1969)

最早的神经网络的思想起源于1943年的MP人工神经元模型,当时是希望能够用计算机来模拟人的神经元反应的过程,该模型将神经元简化为了三个过程:输入信号线性加权,求和,非线性激活(阈值法)。如下图所示:
技术分享图片
1958年Rosenblatt发明的感知器(perceptron)算法。该算法使用MP模型对输入的多维数据进行二分类,且能够使用梯度下降法从训练样本中自动学习更新权值。1962年,该方法被证明为能够收敛,理论与实践效果引起第一次神经网络的浪潮。

1、 第二代神经网络(1986~1998)

第一次打破非线性诅咒的当属现代Deep Learning大牛Hinton,其在1986年发明了适用于多层感知器(MLP)的BP算法,并采用Sigmoid进行非线性映射,有效解决了非线性分类和学习的问题。该方法引起了神经网络的第二次热潮。

1989年,Robert Hecht-Nielsen证明了MLP的万能逼近定理,即对于任何闭区间内的一个连续函数f,都可以用含有一个隐含层的BP网络来逼近该定理的发现极大的鼓舞了神经网络的研究人员。

同年,LeCun发明了卷积神经网络-LeNet,并将其用于数字识别,且取得了较好的成绩,不过当时并没有引起足够的注意。

值得强调的是在1989年以后由于没有特别突出的方法被提出,且神经网络(NN)一直缺少相应的严格的数学理论支持,神经网络的热潮渐渐冷淡下去。

1997年,LSTM模型被发明,尽管该模型在序列建模上的特性非常突出,但由于正处于NN的下坡期,也没有引起足够的重视。

3、统计学建模的春天(1986~2006)

1986年,决策树方法被提出,很快ID3,ID4,CART等改进的决策树方法相继出现。

1995年,线性SVM被统计学家Vapnik提出。该方法的特点有两个:由非常完美的数学理论推导而来(统计学与凸优化等),符合人的直观感受(最大间隔)。不过,最重要的还是该方法在线性分类的问题上取得了当时最好的成绩。

1997年,AdaBoost被提出,该方法是PAC(Probably Approximately Correct)理论在机器学习实践上的代表,也催生了集成方法这一类。该方法通过一系列的弱分类器集成,达到强分类器的效果。

2000年,KernelSVM被提出,核化的SVM通过一种巧妙的方式将原空间线性不可分的问题,通过Kernel映射成高维空间的线性可分问题,成功解决了非线性分类的问题,且分类效果非常好。至此也更加终结了NN时代。

2001年,随机森林被提出,这是集成方法的另一代表,该方法的理论扎实,比AdaBoost更好的抑制过拟合问题,实际效果也非常不错。

2001年,一种新的统一框架-图模型被提出,该方法试图统一机器学习混乱的方法,如朴素贝叶斯,SVM,隐马尔可夫模型等,为各种学习方法提供一个统一的描述框架。

4、快速发展期(2006~2012)

2006年,深度学习(DL)元年。是年,Hinton提出了深层网络训练中梯度消失问题的解决方案:无监督预训练对权值进行初始化+有监督训练微调。其主要思想是先通过自学习的方法学习到训练数据的结构(自动编码器),然后在该结构上进行有监督训练微调。但是由于没有特别有效的实验验证,该论文并没有引起重视。

2011年,ReLU激活函数被提出,该激活函数能够有效的抑制梯度消失问题。

2011年,微软首次将DL应用在语音识别上,取得了重大突破。

5、爆发期(2012~至今)

2012年,Hinton课题组为了证明深度学习的潜力,首次参加ImageNet图像识别比赛,其通过构建的CNN网络AlexNet一举夺得冠军,且碾压第二名(SVM方法)的分类性能。也正是由于该比赛,CNN吸引到了众多研究者的注意。

AlexNet的创新点:

(1)首次采用ReLU激活函数,极大增大收敛速度且从根本上解决了梯度消失问题;

(2)由于ReLU方法可以很好抑制梯度消失问题,AlexNet抛弃了“预训练+微调”的方法,完全采用有监督训练。也正因为如此,DL的主流学习方法也因此变为了纯粹的有监督学习;

(3)扩展了LeNet5结构,添加Dropout层减小过拟合,LRN层增强泛化能力/减小过拟合;

(4)首次采用GPU对计算进行加速。

结语:作为21世纪最具影响力的技术之一,人工智能不仅仅在下围棋、数据挖掘这些人类原本不擅长的方面将我们打败,还在图像识别、语音识别等等领域向我们发起挑战。如今,人工智能也在与物联网、量子计算、云计算等等诸多技术互相融合、进化,以超乎我们想象的速度发展着。而这一切的发生与演变,只用了几十年的时间……

大数据&ai人工智能图数据库的发展脉络与技术演进

目录背景介绍Background图数据库的发展历史:History1.图数据库的存储设计2.图原生数据库 查看详情

ai智能识别与控制2019北京人工智能展览会官网

我国人工智能政策不断落地,技术应用商业化进程加快。×××以来我国的信息化水平大幅提升,互联网用户数量跃居世界第一,信息领域核心技术步深刻改变了人们生活的诸多方面,而人工智能技术和应用飞速发展,带来更为持... 查看详情

数据标注有发展前景吗?

目前人工智能商业化在算力、算法和技术方面基本达到阶段性成熟,想要更加落地,解决行业具体痛点,需要大量经过标注处理的相关数据做算法训练支撑,可以说数据决定了AI的落地程度。目前,我国人工智能行业呈现良好的... 查看详情

ai:概念与资讯

      AI:ArtificialIntelligence(人工智能),它是研究、开发用于模拟和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学,上个世纪50年代一次学术讨论会议上,下图中几位著名的科学家从不... 查看详情

近代科学技术发展简史

1、近代科学技术的兴起15世纪中叶是欧洲历史上的重要转变时期。资产阶级革命为近代自然科学的诞生提供了社会条件。于此同时,科学本身为争得自己的独立地位,摆脱宗教的桎梏,也进行了不屈不挠的斗争。实验科学的兴起... 查看详情

人工智能65年简史:从麦卡锡到hinton,人类追求的ai究竟是什么?

【导读】人工智能的发展已有65年的历史,曾经历过寒冬,也经历过辉煌。从符号主义的专家系统到现在所向披靡的神经网络,不少人担心是否寒冬会再来,也有乐观的人表示人工智能的春天也要来了。回到人工... 查看详情

什么是ai机器学习与深度学习?(代码片段)

...,以及能否把这些概念关联起来。废话少说,开始唠吧。人工智能(ArtificialIntelligence)是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门技术科学。我们来分解一下这个概念。“人工智能”是... 查看详情

ai人脸检测和人脸识别是一个概念吗?有什么区别?

人脸检测-也称为面部检测-是一种基于人工智能(AI)的计算机技术,用于在数字图像中查找和识别人脸。人脸检测技术可应用于各个领域——包括安全、生物识别、执法、娱乐和个人安全——以提供对人员的实时监控和跟踪。... 查看详情

rpa是什么?rpa发展极简史

眼下,RPA(机器人流程自动化)技术爆火于科技圈与投资界,并持续引发新一轮的数字化变革。与过去几年间的很多技术投资热点不同,如今RPA技术被资本方和市场方广为看好,原因有二:一是RPA经过产品形态的迭代,目前可以... 查看详情

ai人工智能●转型与机遇分享会

【活动背景】提及AI人工智能,想必大家并不陌生。智慧城市、智能家居、物联网、语音识别、智能机器人、无人驾驶等。国务院于7月份正式发布《新一代人工智能发展规划》,人工智能正式纳入国家发展战略。到2030年,人工... 查看详情

让人工智能与产业紧密融合2019人工智能ai大会

让人工智能与产业紧密融合2019人工智能AI大会业内专家认为,我国人工智能产业应用总体上处于起步阶段。当前,新一代人工智能已经从最初的算法驱动逐渐向数据、算法和算力的复合驱动转变,其中,基于数据的应用驱动作用... 查看详情

npu芯片技术与市场发展杂谈

...创新2023年,万象更新,AI芯片产业亦恢复生机。在生成式人工智能(AIGC)热潮的催化下,澎湃旺盛的研发和应用需求,令算力产业空前兴奋,连带着AI芯片产业也铆足干劲,蓄势待发。作为构筑AI芯片大厦的“砖瓦”,神经网络... 查看详情

ai迎来新技术突破,由弱人工智能到“强”人工智能

...,迎来新进展,随着技术革命下的背景催化,人工智能发展迅速,并与多种应用场景深度融合,自2018年中科院计算所上海分所针对AI技术如何驱动智能硬件的发展,已进入最后的完善工作。最新一项人工智... 查看详情

ai行业精选日报_人工智能(12·17)

孙正义建议人工智能列入日本高考:不考试,学生不会好好学据外媒消息,日本软银集团首席执行官孙正义周二表示,日本学生「如果没有被要求,就不学习(某个科目),让我们把人工智能定为强制性科目,那么日本学生就会... 查看详情

ai(人工智能)的英文全称?ai指啥,包含啥?

AI(ArtificialIntelligence,人工智能)。“人工智能”一词最初是在1956年Dartmouth学会上提出的。从那以后,研究者们发展了众多理论和原理,人工智能的概念也随之扩展。人工智能是一门极富挑战性的科学,从事这项工作的人必须懂得计... 查看详情

漫画人工智能:人工智能简史

欢迎关注天善智能,我们是专注于商业智能BI,人工智能AI,大数据分析与挖掘领域的垂直社区,学习,问答、求职一站式搞定!对商业智能BI、大数据分析挖掘、机器学习,python,R等数据领域感兴趣的同学加微信:tstoutiao,邀... 查看详情

人工智能65年简史:从麦卡锡到hinton,人类追求的ai究竟是什么?(代码片段)

...报道  来源:IEEESpectrum编辑:LRS【新智元导读】人工智能的发展已有65年的历史,曾经历过寒冬& 查看详情

2020智源-京东多模态对话挑战赛开战产学研联合推动ai技术发展

...领域变得越来越重要。为推动跨模态智能对话与人机交互技术发展,智源-京东跨媒体对话智能联合实验室在2018年首届任务导向型对话挑战赛、2 查看详情