关键词：
晓查 发自 凹非寺
量子位 报道 | 公众号 QbitAI
没想到苹果被打脸来得如此之快。
月初，苹果表示将在iOS 15、macOS 12中加入对用户照片的检测，目的是遏制儿童色情与虐童照片的传播。
苹果还一再强调这项技术的安全性和准确性。
现在，不到半个月的时间，苹果的这项技术已经被一位名为Asuhariet Ygvar程序员“破解”了。
他成功将这个尚未正式发布的AI模型逆向工程，并在GitHub上提供转化成Python的教程。
几个小时后，另一位来自英特尔的工程师就发现了该模型的一个bug。
这让苹果十分尴尬。
Ygvar发现，其实早在iOS 11.3、macOS 11.4开始，就已经在系统中加入了照片检测模型NeuralHash，只不过尚未启用。
因此任何可以下载到苹果系统固件的人，都可以轻松将NeuralHash模型提取出来。
如何提取NeuralHash模型
对于macOS用户或者已经越狱的iOS用户来说，找到NeuralHash模型文件非常方便，就在以下路径中：
/System/Library/Frameworks/Vision.framework/Resources/ （macOS）
/System/Library/Frameworks/Vision.framework/ （iOS）
你会发现neuralhash开头的4个文件：
至于未越狱的用户，可以下载ipsw格式刷机文件，找到其中最大的dmg文件，从这个镜像中找到模型。
由于步骤较多，在此不再赘述，具体操作看参照文末GitHub文档操作。
如何逆向工程
在这4个文件中，net和shape结尾的文件都是json格式，使用苹果开源技术LZFSE压缩；weights保存的是权重。
解压前首先需安装LZFSE解压工具：
将net和shape解压，和权重文件放在一个文件夹中：
为了把模型转换为ONNX格式，还要安装以下依赖项：
转换模型时，Ygvar使用了腾讯优图实验室的TNN，这是一款可以转换多种AI模型的开源工具，可以将苹果的Core ML转为ONNX格式。
模型转化为ONNX格式后，就可以算出任何图片的96bit神经哈希值。
NeuralHash如何工作
说到这里，苹果的NeuralHash具体是如何生成图片哈希值的？
NeuralHash是一种基于神经网络的图像感知哈希（perceptual hashing）方法，具体步骤如下：
将图像转换为RGB；
将图像大小调整为360x360；
将RGB值归一化到[-1, 1]范围；
用NeuralHash模型进行推理；
将运算得到128个浮点数的向量与96x128矩阵相乘；
对生成的96个浮点向量使用单位阶跃函数；
将1.0和0.0的向量转换为位，生成96位二进制数据。
这项技术保证图像被压缩或者大小被调整的情况下，哈希值依旧不变。
△ 经过黑白处理的图片和原图片具有相同哈希值
几小时后就被找到bug
但是Ygvar发现，虽然NeuralHash可以承受图像大小调整和压缩，但如果图像遭裁剪或旋转，哈希值则会发生改变。
这也意味着，不法分子可以通过后两种编辑图片的方法，逃过图片审核。
在Ygvar发布逆向工程的模型几个小时后，另一位高手就发现了NeuralHash的一个bug。
英特尔工程师Cory Cornelius发现其中存在哈希值冲突漏洞，请看下面两张图：
只能说二者毫不相干，但是用NeuralHash模型计算一下却发现，二者的哈希值完全一样。
其实早在11天前，另一位名叫unrealwill的GitHub用户就上传了哈希值冲突攻击的代码，用来生成和原图哈希值一样的图片。
外媒TechCrunch针对这个漏洞询问了苹果。苹果还表示，现在被逆向工程的NeuralHash是早期版本，而不是即将推出的完整版本。
但苹果回避了哈希值冲突问题，强调有人工审核防止该功能被滥用。
破解NeuralHash的Ygvar表示，他的目的是希望帮助我们更好地了解该算法，在所有iOS设备上启用之前发现潜在的问题。
不知下个月的iOS 15正式版是否真有重大改进。
参考链接：
[1]https://www.reddit.com/r/MachineLearning/comments/p6hsoh/p_appleneuralhash2onnx_reverseengineered_apple/
[2]https://github.com/AsuharietYgvar/AppleNeuralHash2ONNX
[3]https://gist.github.com/unrealwill/c480371c3a4bf3abb29856c29197c0be
[4]https://github.com/AsuharietYgvar/AppleNeuralHash2ONNX/issues/1#issue-973388387
[5]https://techcrunch.com/2021/08/18/apples-csam-detection-tech-is-under-fire-again/
苹果遭“打脸”：最安全的iphone却被间谍软件“攻破”！
整理|郑丽媛出品|CSDN（ID：CSDNnews）上周末，国外多家知名媒体共同披露了一款名为“飞马（Pegasus）”的手机间谍软件——由以色列软件监控公司NSO开发，用于监视记者、律师和政治家等较有影响力的... 查看详情
英特尔挖走苹果m1芯片工程师，或将改变x86架构
...架构总监杰夫·威尔科克斯（JeffWilcox）已跳槽到英特尔，负责领导英特尔的SoC架构设计工作。杰夫·威尔科克斯一共在苹果干了八年，打造了M1、M1Pro和M1Max芯片，在帮助苹果从Intel芯片向AppleSilicon过渡的过程中... 查看详情
苹果新算法已混进ios14.3！csam检测技术再遭网友争议(代码片段)
...已被悄悄地隐藏在iOS14.3里。算法公开几小时后，一位英特尔实验室的研究员就发现了其存在的缺陷&# 查看详情
有感于某乎讨论《软件测试工程师会是首先被ai替代的职位吗？》
前几日，闲逛某乎，看到一个这样的问题“软件测试工程师会是首先被AI替代的职位吗”看着这个问题就有些不爽，所以答了一波。先把原答案贴在下面这个问题有意思，因为只要把前面的岗位名称一替换，可以在X乎上展开全民... 查看详情
苹果新算法已混进ios14.3！csam检测技术再遭网友争议
...已被悄悄地隐藏在iOS14.3里。算法公开几小时后，一位英特尔实验室的研究员就发现了其存在的缺陷 查看详情
苹果芯片工程师又被挖！这次是微软，要自研azure服务器芯片
...任首席架构师，负责Azure服务器芯片的开发。几天前英特尔才刚挖走领导苹果转向M1芯片的架构总监JeffWilcox。难道微软要自研芯片了吗？是的。微软自研云服务器芯片微软这边，其实早在2020年就被曝出要为其云计算服... 查看详情
英国工程巨头遭勒索攻击：运营临时中断至少损失4亿元
英国工程巨头伟尔集团披露，今年9月遭受了一起勒索软件攻击，导致出货、制造与工程系统发生中断；这起攻击令伟尔集团损失惨重，仅9月因开销不足与收入延后带来的间接损失高达5000万英镑，预计下一财... 查看详情
苹果m1带起arm，英特尔x86霸主地位遭威胁
...er认为：“苹果用了不到一年的时间，就开始威胁英特尔x86在传统PC芯片市场上数十年的霸主地位。”有了M1Mac后，ARM市场份额稳步上升据市场调研机构MercuryResearch统计，今年第三季度ARM在PC芯片中的市场份额相较... 查看详情
这届ai预测欧洲杯冠军，通通被打脸
持续了一个月的欧洲杯，终于落下帷幕。北京时间7月12日（周一）凌晨，本届欧洲杯决赛中，意大利对阵英格兰。两队在120分钟时间里1-1战平，意大利在欧洲杯中通过点球大战以3:2击败英格兰夺冠。意大利... 查看详情
人才流失不断，苹果m1芯片首席设计师重回老东家——英特尔
...年时间将Mac过渡为自己的AppleSilicon处理器，逐步摆脱英特尔芯片的控制。然而就在两年期限即将到来之际，M1芯片首席设计师——苹果Mac系统架构总监JeffWilcox（杰夫·威尔科克斯）却被英特尔挖走了。威尔科克斯... 查看详情
纠错老板马斯克后，twitter工程师遭解雇！
作者|苏宓出品|CSDN（ID：CSDNnews）马斯克，凭借着直言不讳、果敢的操作，这位掌握了流量密码的企业家自10月27日以440亿美元完成推特私有化交易以来，便在热搜上没下来过，当然，其中最为重要的... 查看详情
纠错老板马斯克后，twitter工程师遭解雇！
“杀疯了”的马斯克，留不住的Twitter员工。作者|苏宓出品|CSDN（ID：CSDNnews）马斯克，凭借着直言不讳、果敢的操作，这位掌握了流量密码的企业家自10月27日以440亿美元完成推特私有化交易以来，便在... 查看详情
智能算力ai破局！英特尔携手百度飞桨，共话ai技术创新引领新征程
WAVESUMMIT+2022深度学习开发者峰会重磅来袭！本届峰会，将呈现以飞桨为代表的深度学习领域的最新技术突破、最扎实的产业实践和共创共享的生态成果。还有来自产学研界的专家学者和资深AI工程师将在七大平行论坛... 查看详情
被苹果工程师发现bug，cassandra4.0暂停发布
...assandra是一套开源去中心化的NoSQL数据库系统，目前被苹果、Netflix和Spotify等诸多科技公司广泛使用。目前社区发布最新版本为ApacheCassandra4.0-rc2，该版本也是Cassandra4.0的候选版本。Cassandra4.0被认为是6年来的一次重大更新&#x... 查看详情
顺丰删库工程师遭开除，难道他不会恢复误删数据？
以下内容仅代表个人观点顺丰删库事件回顾：据悉，顺丰科技数据中心的一位邓某因误删生产数据库，导致某项服务无法使用并持续590分钟。事发后，顺丰将邓某辞退，且在顺丰科技全网通报批评。真实地玩了一把“从删库到跑... 查看详情
引领数据领域ai工程化落地，为什么会是云测数据？
...，Gartner发布《2021年重要战略技术趋势》，认为AI工程化（AIEngineering）将是“需要深挖的趋势”，到了2021年年底，在Gartner的《2022年十二大重要战略技术趋势》中，AI工程化又被进一步明确为未来三到五... 查看详情
ai工程师职业规划和学习路线完整版
AI工程师职业规划和学习路线完整版 如何成为一名机器学习算法工程师成为一名合格的开发工程师不是一件简单的事情，需要掌握从开发到调试到优化等一系列能力，这些能力中的每一项掌握起来都需要足够的努力和经验。... 查看详情
最老的工程师最轻的云计算最容易合作的zstack
...的VMware虽未如十年后般大红大紫，但在业内已颇有名气。英特尔也于此时开始硬件虚拟化生产，并寻求与VMware合作。当然，双方后因技术分歧，在英特尔推出硬件虚拟化后的几年，VMware并没有提供对应支持的产品。最早的虚拟化... 查看详情