如何防止果照外泄?自己先上传就OK!扎克伯格这波操作给网友整不会了

杨净 梦晨 发自 凹非寺
量子位 报道 | 公众号 QbitAI

如何防止果照外泄?

自己先上传到网上就OK。

没错,这就是扎克伯格旗下Meta给出的最新解决方案。

技术角度出发,但细想又总觉得哪里不对……

如何防止果照外泄?自己先上传就OK!扎克伯格这波操作给网友整不会了_第1张图片

结果这就直接让中外网友炸了锅,还有媒体标题直接是酱婶的~

Facebook再次让人上传果照。

如何防止果照外泄?自己先上传就OK!扎克伯格这波操作给网友整不会了_第2张图片

还有网友调侃,这怕是空手套白狼啊~

如何防止果照外泄?自己先上传就OK!扎克伯格这波操作给网友整不会了_第3张图片

所以这究竟是怎么一回事。

此上传非彼上传

Meta官宣的这项工具,专门是针对报复性私密内容的传播。

具体来说,如果你担心自己的果照或不雅视频被人po到网上,那就先自己提前上传到工具上。

这样别人想发到网上(Facebook或Instagram)时,图像就会被审核违规作删除处理。

这时工具会用算法匹配一个独特的“数字指纹”

数字指纹,类似一种条形码,技术上来讲叫做哈希值,或者散列值,有把数据拆散后重新排列之意。

如何防止果照外泄?自己先上传就OK!扎克伯格这波操作给网友整不会了_第4张图片

随后,Meta就拿着哈希值与Facebook或Instagram上传的图像进行匹配。

如果匹配成功,图像将会被删除。甚至有人试图上传一张匹配的图片,工具也将会审查是否违反了其政策,采取相应的行动。

官方强调,原始图像or视频仍然存储在本地,他们只是提取了哈希值,用于与科技公司共享。

据介绍,照片使用的哈希生成算法是PDQ,视频使用的的是MD5,均为该类应用程序的行业标准。

其中,PDQ是Facebook 2019年开源、受pHash启发的相似图片识别算法。

MD5则是一种广泛使用的哈希函数,全称叫做MD5信息摘要算法,可以产生128位/ 16字节哈希值。

对于用户端来说,不需要提供包括电子邮件在内的其他信息,只需要记住密码和项目的号码,以备在这之后编辑项目的状态,比如撤销。

不过这项技术有个很明显的bug——只能精准匹配

换句话说,如果照片被p过、裁剪过,视频被剪辑过,就可能识别不了了。这时候就需要重建一个哈希值。

事实上,类似的技术已经被诸多科技企业广泛使用,用来检测已知的违规内容。

最具代表性的、也是最早提供相关技术的,当属2009年微软宣布的PhotoDNA技术,由微软与达特茅斯学院Hany Farid教授共同研发,以识别删除网络上流传的儿童受害的照片。

如何防止果照外泄?自己先上传就OK!扎克伯格这波操作给网友整不会了_第5张图片

随后,微软向国家失踪与受虐儿童中心 (NCMEC) 捐赠了该技术,并陆续向更多企业免费开放。

早期PhotoDNA必须在本地部署,但2015年,微软提供了基于云的PhotoDNA服务。

随后在谷歌、Facebook、Reddit、Twitter上也都看到了相关的产品。今年8月,苹果甚至直接从源头做起——扫描用户的iPhone来获取儿童受害图像。

网友:直接禁止所有色情内容可好?

这次的工具由Meta联合英国色情报复热线(Revenge Porn Helpline)合作推出,为18岁以上的成年人而生。

色情报复,主要指分手后心怀不满的ex把对方果照传到网上的那种。

如何防止果照外泄?自己先上传就OK!扎克伯格这波操作给网友整不会了_第6张图片

早在2017年,还未改名的Facebook公司就推出过类似的工具,并在澳大利亚展开试点运营。

据当时的统计,大约4%的美国网民是色情报复的受害者。只算30岁以下女性的话,每十人就有一人曾遭受色情报复。

据英国卫报报道,试点项目的流程是用户上传自己的果照,由“受过专门训练的代表”查看并提取照片的数字指纹。

之后原始图像会删除,只保留数字指纹,用于防止同一张果照在删除后再次被人上传。

如何防止果照外泄?自己先上传就OK!扎克伯格这波操作给网友整不会了_第7张图片

可以说开发这个工具的初衷是好的,也收到了一些公益组织、律师以及最早参与PhotoDNA技术开发的科学家Hany Farid的认同。

不过上传果照到Facebook的服务器,并由技术人员手动处理这两个环节,让用户很不买账。

如何保证技术人员不会滥用职权?又如何保证存储果照的服务器不被黑客攻击?

以及,为什要这么麻烦呢?直接用图像识别技术不是更方便吗?

这都是当时大家最关心的问题。

这些对应在受害者身上,主要产生两种担心:一是害怕报复,所以不愿自己上传那些内容;二是不知道那些内容已经分享。

两年之后,Facebook推出了一款AI工具,可以主动检测在社交网络上分享的果照,并允许快速删除,还配备一名专门训练的成员来审查内容。

这样就保证了可以在其他人报告之前就已经处理这些照片。

而在原有工具的基础上,Facebook的新工具让用户不用上传内容,在本地完成就可以提取数字指纹的步骤,由独立的慈善组织StopNCII.org运营。

如何防止果照外泄?自己先上传就OK!扎克伯格这波操作给网友整不会了_第8张图片

这一次,大家反应如何?

在Facebook频频曝出隐私安全问题、用户数据大规模泄露等事件之后,许多人还是不信任他们。

4a6e0088f8e3c5c86686025c6fe70c78.png

而且这种不信任的情绪针对扎克伯格本人。

如何防止果照外泄?自己先上传就OK!扎克伯格这波操作给网友整不会了_第9张图片

不过也有人认为这个主意是好的,但具体能起到什么效果还要再观察。

c3ee60cff84d2d39e40430f450816b97.png

一些批评者思考的角度是:

只需要稍微P图就能绕过的防护措施太脆弱了,就像是一个不投资更多人力审核的廉价借口。

如何防止果照外泄?自己先上传就OK!扎克伯格这波操作给网友整不会了_第10张图片

最后还有一个灵魂发问:

直接禁止所有色情内容可好?

如何防止果照外泄?自己先上传就OK!扎克伯格这波操作给网友整不会了_第11张图片

端到端加密宣布推迟

Meta旗下产品,尤其是社交应用Facebook,在用户隐私安全问题上频频出现大问题。

最著名的是“FB数据门”,8700万Facebook用户数据被不当泄露给英国剑桥分析公司,被用于操纵2016年美国大选和英国脱欧等政治议题。

今年与Meta公司相关的更是有“260万Instagram、Tiktok用户数据泄露”,“Facebook超5亿用户个人数据被泄露”、“38亿条Clubhouse、Facebook用户数据在暗网出售”等让人逐渐麻木。

自剑桥分析事件曝光后,扎克伯格于2019年宣布正在努力把端到端加密技术用到旗下所有服务。

如何防止果照外泄?自己先上传就OK!扎克伯格这波操作给网友整不会了_第12张图片

端到端加密意味着只有发送方和接收方能解密并查看信息,在传输过程中都是加密状态,其他人无法查看。

目前Meta旗下只有WhatsApp一款应用声称已经实现端到端加密。

不过就这今年还被打脸了。

9月初,一份来自ProPublica的调查报道显示,WhatsApp在奥斯汀、德克萨斯、都柏林和新加坡雇佣了1000多名员工,专门负责检查“数百万私人消息、图片和视频”。

虽然这与他们提交给美国证券交易委员会的说法不一致,不过美国证交会当时没有对此采取行动。

一周后,WhatsApp终于宣布允许用户把云端备份聊天记录加密,在这之前用户只能用未加密格式把聊天记录上传到苹果iCloud或安卓的Google Drive。

今年早些时候,扎克伯格曾暗示会在2022年实现全产品端到端加密。不过这一计划最近又宣布推迟到2023年。

Meta全球安全主管Antigone Davis表示:

推迟的决定是为了确保端到端加密的同时,还保留向执法部门提供信息以协助儿童安全调查的能力。

参考链接:
[1]https://stopncii.org/faq/
[2]https://about.fb.com/news/2021/12/strengthening-efforts-against-spread-of-non-consensual-intimate-images/
[3]https://www.theguardian.com/technology/2017/nov/07/facebook-revenge-porn-nude-photos
[4]https://www.propublica.org/article/how-facebook-undermines-privacy-protections-for-its-2-billion-whatsapp-users

你可能感兴趣的:(java,python,大数据,人工智能,机器学习)