关键词：
当我们一直在讨论AI能给互联网安全带来什么影响的时候，可能一直都忽略了一个问题：AI本身也不安全。
这两天的新闻恰如其分地提醒了我们这一点。近日，谷歌被爆其机器学习框架TensorFlow中存在的严重安全风险，可被黑客用来制造安全威胁，谷歌方面已经确认了该漏洞并做出了整改回应。
虽然是提前发现，这些漏洞本身没有带来实质威胁。但这条消息还是让我们看到了某种蠢蠢欲动的不安。TensorFlow、Torch、Caffe这些机器学习开发框架，差不多是如今AI开发者与研究者的标准配置，但这些平台最近却纷纷被爆出存在安全漏洞和被黑客利用的可能性。
某种意义上来说，这些消息在提醒我们同一个问题：当我们急切的将资金与用户关系聚集在机器学习周围时，也可能是将巨大的危险捆绑在了身上。
更重要的是，面临AI安全问题，我们中的大部分人还处在很傻很天真的“懵懂状态”，对它的逻辑和危害性近乎一无所知。
本文希望来科普一下这些内容，毕竟防患于未然，等到真正出现大事件再惊叹也就晚了。另外必须提醒开发者和企业的是，在谷歌这些大公司不遗余力的推广自家机器学习平台，并且为了吸引使用者而快速迭代、大量发布免费资源时，开发者本身一定要留个心眼，不能不假思索的使用。
比起心血毁于一旦，更多的审查机制和更严密的安全服务是非常值得的。
盲点中的魔鬼：机器学习框架的安全隐患
说机器学习平台的漏洞，有可能让开发者心血付诸东流绝不是开玩笑。在今年上半年的勒索病毒事件里，我们已经见识过了如今的黑客攻击有多恐怖。而勒索病毒本身就是利用了微软系统中的漏洞，进行针对式攻击锁死终端。
可以说，在勒索病毒的洗礼之后，信息产业已经进入了“漏洞霸权时代”。只要拥有了更多漏洞，就拥有了大范围的控制权与支配权。随着黑客攻击的工具化和门槛降低，能力一般的攻击者也可以利用平台漏洞发动广泛攻击。
但在我们愈发重视“漏洞产业”带给今天世界的安全隐患时，却不自主的产生了一个视线盲区。那就是人工智能。
这里普及一下今天大部分AI开发任务的基本流程：一般来说，一个开发者想要从头开始开发深度学习应用或者系统，是一件极其麻烦，几乎不可能的事。所以开发者会选择利用主流的开发框架。比如这次被爆出隐患的谷歌TensorFlow。
利用这类平台，开发者可以用平台提供的AI能力，结合开源的算法与模型，训练自己的AI应用。这样速度快效率高，也可以吸收最先进的技术能力。这种“不能让造车者从开发轮子做起”的逻辑当然是对的，但问题也随之到来了：假如轮子里面有问题呢？
由于大量开发者集中利用机器学习框架训练AI是近两年的事情，此前也没有爆出过类似平台存在安全问题，所以这个领域的安全因素一直没有被重视过，可能大部分AI开发者从来都没有想过会存在安全问题。
但这次被发现的漏洞却表明：利用TensorFlow本身的系统漏洞，黑客可以很容易的制造恶意模型，从而控制、篡改使用恶意文件的AI应用。
由于一个投入使用的深度学习应用往往需要复杂的训练过程，所以恶意模型的攻击点很难短时间被察觉。但由于智能体内部的逻辑关联性，一个点被黑客攻击很可能将会全盘受控。这种情况下造成的安全隐患，显然比互联网时代的黑客攻击更加严重。
理解了这些，我们可能会达成一个并不美好的共识：我们一直在担心的AI失控，可能根本不是因为AI太聪明想夺权，而是居心不良的黑客发动的。
AI“失控”：一个今天不得不面对的问题
相比于经典计算的信息存储与交互模式，人工智能，尤其是机器学习类任务，最大的改变之一就是展现出了信息处理的整体性和聚合性。比如著名AlphaGo，它不是对每种棋路给出固定的应对模式，而是对棋局进行预判和自我推理。它的智慧不是若干信息组成的集合，而是一个完整的“能力”。
这是AI的优点，但很可能也是AI的弱点。试想，假如AlphaGo中的某个训练模型被黑客攻击了，让系统在该打吃的时候偏偏就不。那么最终展现出的将不是某个棋招运算失当，而是干脆一盘棋也赢不了。
说白了，AI注定是一个牵一发动全身的东西，所以平台漏洞带来的安全风险才格外可怕。
AlphaGo毕竟还只是封闭的系统，即使被攻击了大不了也就是下棋不赢。但越来越多的AI开始被训练出来处理真实的任务，甚至极其关键的任务。那么一旦在平台层面被攻克，将带来无法估计的危险。
比如说自动驾驶汽车的判断力集体失灵、IoT体系被黑客控制、金融服务中的AI突然瘫痪、企业级服务的AI系统崩溃等等情况，都是不出现还好，一旦出现就要搞个大事情。
由于AI系统紧密而复杂的连接关系，很多关键应用将从属于后端的AI体系，而这个体系又依赖平台提供的训练模型。那么一旦最后端的平台失守，几乎必然引发规模化、连锁式的崩盘——这或许才是我们今天最应该担心的AI失控。
AI产业的风险，在于某个黑客一旦攻克了机器学习平台的底层漏洞，就相当于把整个大厦的最下一层给炸掉。这个逻辑此前很少被人关注，却已经被证明了其可能性存在。而最可怕的是，面对更多未知的漏洞和危险，世界范围内的AI开发者近乎是束手无策的。
家与国：无法逃避的AI战略角力
在认识到AI开发平台可能出现的底层问题，以及其严重的危害性之后，一个顺理成章的联想也会浮出我们的脑海：国家层面的AI安全与战略角力。
有人说，百度等公司代表的中国AI力量崛起，已经让美国科技界感到了威胁。事实上，这种角力绝不只是存在于产业层面。今年7月，哈佛大学肯尼迪政治学院贝尔弗科学与国际事务中心发布的《人工智能与国家安全》报告里，就专门指出AI很可能在接下来一段时间内，对多数国民产业形成革命性的影响，成为产业中的关键应用。那么一旦AI安全受到威胁，整个美国经济将受到重大打击。
同样的道理，当然也适用于今天与美国抗衡的AI大国，中国。这次TensorFlow安全漏洞曝光后，我们联系了一家国内机器视觉方向的创业公司，他们所使用的训练模型全部来自于TensorFlow中的社区分享。沟通之后的结论是，如果真受到黑客恶意模型的袭击，他们的产品将瞬间瘫痪。
这仅仅是一家创业公司，据了解，国内使用TensorFlow进行训练的还包括京东、小米、中兴等大型企业，以及不少科研院所的研发项目。未来，很有可能还有更多更重要的中国AI项目在欧美的平台上进行训练部署，当这些东西暴露在黑客攻击的面前，甚至控制权掌握在别国手中，我们真的可以放心这样的AI发展之路吗？
这也绝不是杞人忧天。勒索病毒爆发之后，追根溯源就会发现，这些黑客工具的源头来自美国情报系统研发的网络攻击武器。武器这种东西，制造出来就是为了杀伤的，无论是制造者使用，还是被盗后流出，最终吃亏的只能是没有防范的那群人。
各种可能性之下，AI安全问题在今天已经绝不是儿戏。而中国产业至少能做两件事：1是组建专业的AI防护产业，将互联网安全升级为AI安全；2是必须逐步降低对欧美平台的依赖度，这里当然不是民粹主义的闭关锁国。而是应该给开发者更多选择，让整个产业自然而然地向国家AI安全战略靠拢。比如百度打造的从芯片到框架，再到平台体系与安全监督机制的开发者赋能计划，就在一步步将本应属于中国的AI开发根基留在中国。
总之，AI本身的安全防护，已经成为了开发者必须在意、大平台需要承担责任、国家竞争需要争抢的一个环节。希望最终一起人为的AI失控事件都不要到来。毕竟吃一堑长一智的事情在互联网历史上已经发生太多了。
希望这次我们可以预见危险，而不是痛而后悟吧。
冬奥网络安全卫士被表彰突出贡献，探寻冬奥背后的安全竞技
...志数量累积超1850亿，日均检测日志超37亿，累计发现修复漏洞约5800个，发现恶意样本54个，排查风险主机150台，累积监测到各类网络攻击超3.8亿次（含社会面）& 查看详情
苹果遭火速打脸：照片扫描ai被逆向工程，英特尔工程师发现漏洞
晓查发自凹非寺量子位报道|公众号QbitAI没想到苹果被打脸来得如此之快。月初，苹果表示将在iOS15、macOS12中加入对用户照片的检测，目的是遏制儿童色情与虐童照片的传播。苹果还一再强调这项技术的安全性和准确性。... 查看详情
ssl证书智能管理系统能发现我的证书安全漏洞吗？
您好，Gworg智能控制面板系统可以检测SSL证书安装状态与漏洞。参考技术A天威诚信的SSL证书智能管理系统是有安全漏洞检测功能的，通过域名，SSL、证书三个维度进行数据统计，生成报告，可更直观展现全站运营情况。定时生成... 查看详情
关于 ARCore 中云锚质量背后的几何方面的建议
...能被封装在FeatureMapQualityUi类的形式中，在这里我们可以发现： 查看详情
全球wannacry勒索病毒爆发背后的技术漏洞
转载文章请注明作者和二维码及全文信息。5月12日晚，新型“蠕虫式”勒索病毒软件WannaCry在全球爆发，攻击各国政府，学校，医院等网络。我国众多行业大规模受到感染，其中教育网受损最为严重，攻击造成大量教学系统瘫痪... 查看详情
关于appid被锁定问题
可能是由于我把appid借给同事使用。某天，突然间发现自己的appid因为安全问题被锁定。在解除锁定的过程中发现我没有设置备用邮件，并且安全问题记不清楚，导致锁定无法解除。 我去西单的苹果客户中心（在大悦城... 查看详情
发现安全漏洞不扫描 groovy 文件
】发现安全漏洞不扫描groovy文件【英文标题】：findsecuritybugsdoesnotscangroovyfiles【发布时间】：2016-01-1123:59:43【问题描述】：在我们的项目中，我们同时使用了Groovy和Java类。我们正在使用find-sec-bugs插件1.4.3和FindBugs3.0.1来扫描源代... 查看详情
三星部分机型被曝存在安全漏洞
... 三星部分机型被曝存在安全漏洞1 3月1日消息，研究发现，三星已经出货的上亿部Android智能手机存在安全漏洞，攻击者可能利用漏洞从相关设备中获取敏感和加密信息。 以色列特拉维夫大学(TelAvivUniversity)研究人员发现... 查看详情
导致阿里云被暂停合作的漏洞究竟是什么？
因发现安全漏洞后的处理问题，近日阿里云引发了一波舆论。据媒体报道，11月24日，阿里云安全团队向美国开源社区Apache（阿帕奇）报告了其所开发的组件存在安全漏洞。12月22日，因发现ApacheLog4j2组件严... 查看详情
xss事件(代码片段)
...?本地测试的时候随便点了些页面，然后debug跟了下代码未发现任何问题。上线之后用户反馈有的页面打不开，自己去线上体验发现大部分页面正 查看详情
firefox开源为啥安全
...的众网友来修漏洞呢？因为一个开源软件的漏洞被多个人发现的可能性较高，只要这些人中有任何一个报告给开发者，开发者就能迅速修补漏洞，而且报告者可以直接提交一个改进代码，开发者不必费时间编写代码非开源软件一... 查看详情
XSS 背后的一般概念是啥？
...0:53:04【问题描述】：跨站脚本(XSS)是一种类型计算机安全漏洞通常出现在Web应用程序中这使恶意攻击者能够将客户端脚本注入网络其他用户查看的页面。一个被利用的跨站脚本攻击者可以利用漏洞绕过访问控制，例如同源政策。... 查看详情
XSS 背后的一般概念是啥？
...0:53:04【问题描述】：跨站脚本(XSS)是一种类型计算机安全漏洞通常出现在Web应用程序中这使恶意攻击者能够将客户端脚本注入网络其他用户查看的页面。一个被利用的跨站脚本攻击者可以利用漏洞绕过访问控制，例如同源政策。... 查看详情
应用程序不合规并被删除：安全漏洞：不安全的主机名验证
...问题描述】：我的应用程序已被删除并显示以下消息我们发现您的应用包含安全漏洞，这些漏洞可能会暴露用户信息或损坏用户的设备。这违反了设备和网络滥用政策。具体来说，您的应 查看详情
关于iphone最新漏洞的实验
关于iPhone最新漏洞的实验zjutcsa听说你iOS安全性高？网络安全通成员用实验来发现你的漏洞。650)this.width=650;"src="https://mmbiz.qpic.cn/mmbiz_jpg/iaGL4DsR2M5aPNwAiaadRK0GI93IdHNLQx8c4oc7uPCdYWTPA0PeicPhkAJbWPw3JvuA7lnBqfLmxQOBYVayxf7LA/64 查看详情
mysql(3306/tcp)发现安全漏洞如何修补？
mysql(3306/tcp)发现安全漏洞如何修补？详细些呀X-Scan扫描说：漏洞mysql(3306/tcp)用户用一个精心构造的认证数据包可能会绕过数据库的密码认证参考技术A如果是window系统，用fport软件可以看到是哪个程序在使用3306端口。如果是linux系... 查看详情
阿里云因未及时报告严重漏洞被处罚
...期，工信部网络安全管理局通报称，阿里云计算有限公司发现阿帕奇（Apache）Log4j2组件严重安全漏洞隐患后，未及时向电信主管部门报告，未有效支撑工信部开展网络安全威胁和漏洞管理。 通报指出，阿里云是工信部网络安... 查看详情
安全漏洞的5个最危险安全漏洞
...XPath、XML解析器和程序参数。其实，通过分析代码是可以发现注入漏洞的，但是，如果已经将系统部署到了生产环境中了，在测试期间就很难发现这些漏洞。利用劫持漏洞的网络攻击带来的后果可能有：敏感数据被泄露、拒绝服... 查看详情