ad1

您当前位置:首页 > 报告

苹果遭火速打脸:照片扫描AI被逆向工程,英特尔工程师发现漏洞

来源:会员发布
时间: 2021-08-20 11:03

8 月 19 日消息没想到苹果被打脸来得如此之快。月初,苹果表示将在 iOS 15、macOS 12 中加入对用户照片的检测,目的是遏制儿童色情与虐童照片的传播。苹果还一再强调这项技术的安全性和准确性。

现在,不到半个月的时间,苹果的这项技术已经被一位名为 Asuhariet Ygvar 程序员“破解”了。

他成功将这个尚未正式发布的 AI 模型逆向工程,并在 GitHub 上提供转化成 Python 的教程。

几个小时后,另一位来自英特尔的工程师就发现了该模型的一个 bug。

这让苹果十分尴尬。

Ygvar 发现,其实早在 iOS 11.3、macOS 11.4 开始,就已经在系统中加入了照片检测模型 NeuralHash,只不过尚未启用。

因此任何可以下载到苹果系统固件的人,都可以轻松将 NeuralHash 模型提取出来。

如何提取 NeuralHash 模型

对于 macOS 用户或者已经越狱的 iOS 用户来说,找到 NeuralHash 模型文件非常方便,就在以下路径中:

/System/Library/Frameworks/Vision.framework/Resources/(macOS)

/System/Library/Frameworks/Vision.framework/(iOS)

你会发现 neuralhash 开头的 4 个文件:

至于未越狱的用户,可以下载 ipsw 格式刷机文件,找到其中最大的 dmg 文件,从这个镜像中找到模型。

由于步骤较多,在此不再赘述,具体操作看参照文末 GitHub 文档操作。

如何逆向工程

在这 4 个文件中,net 和 shape 结尾的文件都是 json 格式,使用苹果开源技术 LZFSE 压缩;weights 保存的是权重。

解压前首先需安装 LZFSE 解压工具:

brewinstalllzfse

将 net 和 shape 解压,和权重文件放在一个文件夹中:

为了把模型转换为 ONNX 格式,还要安装以下依赖项:

pipinstallonnxcoremltools

转换模型时,Ygvar 使用了腾讯优图实验室的 TNN,这是一款可以转换多种 AI 模型的开源工具,可以将苹果的 Core ML 转为 ONNX 格式。

模型转化为 ONNX 格式后,就可以算出任何图片的 96bit 神经哈希值。

ab14febaa837b6c1484c35e6NeuralHash 如何工作

说到这里,苹果的 NeuralHash 具体是如何生成图片哈希值的?

NeuralHash 是一种基于神经网络的图像感知哈希(perceptual hashing)方法,具体步骤如下:

1、将图像转换为 RGB;

2、将图像大小调整为 360x360;

3、将 RGB 值归一化到 [-1, 1] 范围;

4、用 NeuralHash 模型进行推理;

5、将运算得到 128 个浮点数的向量与 96x128 矩阵相乘;

6、对生成的 96 个浮点向量使用单位阶跃函数;

7、将 1.0 和 0.0 的向量转换为位,生成 96 位二进制数据。

这项技术保证图像被压缩或者大小被调整的情况下,哈希值依旧不变。

经过黑白处理的图片和原图片具有相同哈希值

几小时后就被找到 bug

但是 Ygvar 发现,虽然 NeuralHash 可以承受图像大小调整和压缩,但如果图像遭裁剪或旋转,哈希值则会发生改变。

这也意味着,不法分子可以通过后两种编辑图片的方法,逃过图片审核。

在 Ygvar 发布逆向工程的模型几个小时后,另一位高手就发现了 NeuralHash 的一个 bug。

英特尔工程师 Cory Cornelius 发现其中存在哈希值冲突漏洞,请看下面两张图:

只能说二者毫不相干,但是用 NeuralHash 模型计算一下却发现,二者的哈希值完全一样。

$python3nnhash.pyNeuralHash/model.onnxneuralhash_128x96_seed1.datbeagle360.png59a34eabe31910abfb06f308$python3nnhash.pyNeuralHash/model.onnxneuralhash_128x96_seed1.datcollision.png59a34eabe31910abfb06f308

其实早在 11 天前,另一位名叫 unrealwill 的 GitHub 用户就上传了哈希值冲突攻击的代码,用来生成和原图哈希值一样的图片。

外媒 TechCrunch 针对这个漏洞询问了苹果。苹果还表示,现在被逆向工程的 NeuralHash 是早期版本,而不是即将推出的完整版本。

但苹果回避了哈希值冲突问题,强调有人工审核防止该功能被滥用。

破解 NeuralHash 的 Ygvar 表示,他的目的是希望帮助我们更好地了解该算法,在所有 iOS 设备上启用之前发现潜在的问题。

不知下个月的 iOS 15 正式版是否真有重大改进。

GitHub 参考链接:点击打开

相关阅读

 商务部19日发布数据显示,前7个月我国对外非金融类直接投资4065.2亿元人民币,同比下降4%,但对“一带一路”沿线国家非金融类直接投资额同比增长9.9%。商务

2021-08-20 11:03

 齐鲁频道与省京剧院合作,选择京剧名段,进行创意改编,邀请京剧院知名演员杨雪梅(梅派传人,著名京剧表演艺术家梅葆玖弟子)、宋柏珑(优秀青年武生,著名京剧表演艺术家

2021-08-20 11:03

 题:疫情下全球入境旅游目的地何以重塑?专家:数字科技赋能旅游发展作者于晶李泽阳“新冠肺炎疫情对旅游行业带来了打击和创伤。一旦疫情趋于好转,人员可以流动,全世界的

2021-08-20 11:03

 针对“科研经费拨付涉及环节多、进度较慢”相关问题,财政部科教和文化司司长黄家玉今日表示,国务院办公厅近日印发了《改革完善中央财政科研经费管理的若干意见》。《若干

2021-08-20 11:03

 北京时间8月20早间消息,据报道,美国电子商务巨头正准备开设大规模的实体综合零售业态,类似于传统的百货商店。这是该公司在实体零售领域的最新尝试。约为2800平方

2021-08-20 11:03

 电信巨无霸上市会引发吸血效应,还是带来更多机会?机构认为,电信回A将大幅增加通信行业市值,有望增加机构配置比。财联社8月20日讯,中国电信今日将于上交所上市。本

2021-08-20 11:03

 19日8时16分,牡丹江至佳木斯高铁首趟试运行列车从牡丹江站驶出,标志着中国最东端高铁——牡佳高铁正式进入运行试验阶段,预计9月底具备全线开通运营条件。牡佳高铁

2021-08-20 11:03

 用西瓜撬动乡村经济这位“瓜王”科特派功不可没去年,我们镇小拱棚西瓜产值突破1300万元,试验种植超早熟小拱棚西瓜50亩,创造经济效益8.5万元。如今,利通区已经

2021-08-20 11:03

金融之家
关注我们
foot01
foot02
ewm
foot03
foota footb footc footd foote footf