关键词：
Datawhale开源
联合发布：同济子豪兄、Datawhale
文章目录
1.什么是机器学习的可解释性分析。
2.学可解释机器学习有什么用？
3.可解释机器学习开源学习计划，同济子豪兄和 Datawhale 联合发布。
什么是可解释AI
现代的机器学习和人工智能，属于“统计学习”，通过大量的数据和经验训练算法，拟合出决策边界和数据分布。
比如识别猫狗的神经网络，输入大量标注好类别的图像，通过神经网络算法，在高维空间拟合非线性、非凸的数据分布和决策边界。
但没人知道神经网络拟合出的数据分布和决策边界真正长什么样子。
并且随着神经网络越来越深，参数越来越多，数据量越来越大。人工智能变得越来越像黑盒子。
人类根本不清楚它内部的脑回路，到底是怎么做出决策的。
AI到底学习到了哪些特征，是不是符合人类的直觉和常识。
AI什么时候work，什么时候不work。
AI到底有没有过拟合，如何进一步改进它和数据集。
特别是医疗、无人驾驶、金融这些人命关天的领域，你愿不愿意把身家性命托付给AI。
可解释性分析，就是研究如何打开人工智能的黑箱子，洞悉AI的脑回路和注意力，进而解释它、了解它、改进它、信赖它。知其然，也知其所以然。
可解释AI有什么用？
研究AI的脑回路，就是研究AI的本质。
可解释分析是人工智能的通用研究方法，无论传统数据挖掘、计算机视觉、自然语言处理、强化学习，都可以和可解释性分析交叉融合，作为研究工作的核心创新点。
包括但不限于：大模型、缺陷异常检测、细粒度分类、决策AI和强化学习、图神经网络、AI纠偏、AI4Science、Machine Teaching、对抗样本、可信计算。
对YOLO目标检测做可解释性分析：
图1：来源OpenMMLab
甚至，还可以让AI把学到的知识教给人类，比如下围棋，识别鸟类、打游戏、画画，从Machine Learning升华到Machine Teaching，引领人类进步。
Datawhale开源学习计划
可解释机器学习系列公开课，包含人工智能可解释性分析领域的导论、算法综述、经典论文精读、代码实战、前沿讲座。由B站知名UP主“同济子豪兄”主讲，课程视频免费开源。
开源地址：https://github.com/TommyZihao/zihao_course/tree/main/XAI
更多开源教程：
https://github.com/datawhalechina
参与组队学习：
本课程还得到了周博磊（UCLA）、程明明（南开大学）、姜鹏涛（浙江大学）、赵冰辰（爱丁堡大学）、杨思苇（同济大学）等老师，和Datawhale、量子位、 中国图象图形学学会-科普与教育工作委员会的大力支持。
图2：公开课内容
图3：论文逐句精读
开源学习贡献者
航路开辟者（主讲人）
张子豪，B站人工智能科普UP主“同济子豪兄”：https://space.bilibili.com/1900783
微软人工智能最有价值专家（MVP）、华为人工智能HCDE云享专家、上海人工智能实验室计算机视觉算法研究员。
代表作：精读AI经典论文、编程奇妙夜、斯坦福CS231N、CS224W公开课中文精讲、OpenMMLab代码实战。
航海士（助教）：
吕豪杰，Datawhale成员，北京邮电大学
乔宇，北京大学软件工程在读研究生，研究方向：可解释性AI、建筑学。
张燕，研究方向：可解释性AI、因果学习。
田文博，曾参与国家田径队人体姿态估计分析工作。
刘一鸣，北京工业大学在读博士，研究方向：深度学习可解释性、废旧家电识别。
斯坦福吴恩达教授机器学习公开课第三讲笔记——局部加权回归/线性回归的概率解释/分类和逻辑回归
学习打卡04可解释机器学习笔记之grad-cam
可解释机器学习笔记之Grad-CAM文章目录可解释机器学习笔记之Grad-CAMGrad-CAM介绍Grad-CAM是CAM的泛化形式Gard-CAM可视化结果Grad-CAM算法的优点Grad-CAM算法的缺点Grad-CAM变种Grad-CAM++Score-CAMLayer-CAM思考与总结参考阅读首先非常感谢同... 查看详情
学习打卡04可解释机器学习笔记之grad-cam
可解释机器学习笔记之Grad-CAM文章目录可解释机器学习笔记之Grad-CAMGrad-CAM介绍Grad-CAM是CAM的泛化形式Gard-CAM可视化结果Grad-CAM算法的优点Grad-CAM算法的缺点Grad-CAM变种Grad-CAM++Score-CAMLayer-CAM思考与总结参考阅读首先非常感谢同... 查看详情
可解释机器学习（explainable/interpretablemachinelearning）的原理和应用（李宏毅视频课笔记）
文章目录0前言1IntroductionofExplainable/InterpretableML1.1WhyweneedExplainableML?1.2Interpretablev.s.Powerful2LocalExplanation2.1IntroductionofLocalExplanation2.1.1RemovingWay2.1.2ModifyingWay2.1.3Limitatio 查看详情
机器学习公开课笔记第一周
一，机器学习是什么？ "AcomputerprogramissaidtolearnfromexperienceEwithrespecttosomeclassoftasksTandperformancemeasureP,ifitsperformanceattasksinT,asmeasuredbyP,improveswithexperienceE."Example:playingcheckers. 查看详情
斯坦福公开课-机器学习2.监督学习应用-梯度下降（吴恩达andrewng）(代码片段)
...数（hypothesis）1-3-3用`线性代数-非齐次方程`解释参数**1-普通梯度下降算法****2-批梯度下降算法（batchgradientdescentalgori 查看详情
学习打卡01可解释机器学习之导论
可解释机器学习之导论文章目录可解释机器学习之导论可解释学习为什么我们需要可解释机器学习前沿的AI方向可解释性好的机器学习算法深度学习的可解释性分析可视化卷积核遮挡Mask、缩放、平移、旋转找到能使某个神经元激... 查看详情
斯坦福大学公开课机器学习：adviceforapplyingmachinelearning-decidingwhattotrynext（设计机器学习系统时，怎样确定最适合最正确的
...性能，我们应该如何决定接下来应该选择哪条道路？为了解释这一问题，以预测房价的学习例子。假如我们已经得到学习参数以后，要将我们的假设函数放到一组新的房屋样本上进行测试，这个时候我们会发现在预测房价时，产... 查看详情
学习打卡02可解释机器学习笔记之zfnet
可解释机器学习笔记之ZFNet文章目录可解释机器学习笔记之ZFNetZFNet介绍ZFNet结构特征可视化可视化结构特征不变性特征演化遮挡性分析其他内容总结和思考首先非常感谢同济子豪兄拍摄的可解释机器学习公开课，并且免费分... 查看详情
学习打卡07可解释机器学习笔记之shape+lime代码实战(代码片段)
可解释机器学习笔记之Shape+Lime代码实战文章目录可解释机器学习笔记之Shape+Lime代码实战基于Shapley值的可解释性分析使用Pytorch对MNIST分类可解释性分析使用shap的DeepExplainer进行可视化使用Pytorch对预训练ImageNet图像分类可解... 查看详情
学习打卡07可解释机器学习笔记之shape+lime代码实战(代码片段)
可解释机器学习笔记之Shape+Lime代码实战文章目录可解释机器学习笔记之Shape+Lime代码实战基于Shapley值的可解释性分析使用Pytorch对MNIST分类可解释性分析使用shap的DeepExplainer进行可视化使用Pytorch对预训练ImageNet图像分类可解... 查看详情
机器学习公开课笔记第五周之优化机器学习算法
一，提高机器学习算法准确度的方法当我们的机器学习算法不能准确预测我们测试数据时，我们可以尝试通过以下方法提高我们机器学习的算法准确度1)，获得更多的训练样例2)，减少特征数3)，增加特征数4)，增加多项式特征5)... 查看详情
coursera公开课笔记:斯坦福大学机器学习第七课“正则化”
Coursera公开课笔记:斯坦福大学机器学习第七课“正则化”NLPJob斯坦福大学机器学习第七课”正则化“学习笔记，本次课程主要包括4部分：1)TheProblemofOverfitting(过拟合问题)2)CostFunction(成本函数)3)RegularizedLinearRegression(线性回归的正... 查看详情
斯坦福公开课1：机器学习的动机与应用
什么是机器学习？一个程序对于任务T，输入经验E，通过性能评测方法P衡量该程序在T的性能得到改进。监督学习Regression（举例：房屋价格与房屋面积的关系）Classification（举例：根据年龄和肿瘤大小判断乳腺肿瘤是良性/恶性）... 查看详情
单视频播放量超20万的公开课配套教材，猫书来了~
...果的第一条，单视频播放量超过了20万，这大概是机器学习领域最受欢迎的纯硬核知识课程了~因为这个视频课程时长6个多小时，很多网友就将该课程霸气总结为“6小时学会深度强化学习”，拉几个评论大家感受... 查看详情
单视频播放量超20万的公开课配套教材，猫书来了！
...果的第一条，单视频播放量超过了20万，这大概是机器学习领域最受欢迎的纯硬核知识课程了~因为这个视频课程时长6个多小时，很多网友就将该课程霸气总结为“6小时学会深度强化学习”，拉几个评论大家感受... 查看详情
coursera机器学习公开课笔记15:anomaly-detection
NoteThispersonalnoteiswrittenafterstudyingtheopeningcourseonthecourserawebsite,MachineLearningbyAndrewNG.Andimages,audiosofthisnoteallcomesfromtheopeningcourse.01_density-estimationInthisnextsetofvide 查看详情
黄海广的《机器学习》公开课！
...享 作者：黄海广，温州大学副教授黄海广老师的机器学习课程登陆了中国大学慕课，目前已经结课两期，共2万人报名学习，第4轮在9月2日10点开课，现在可以报名了。课程地址：https://www.icourse163.org/co... 查看详情