“Hey Siri”
“小爱同学”
随着智能设备的普及,我们经常能在身边听到这样的对话声音。语音助手已经越来越实用,也越来越受欢迎了。
然而你是否知道,这些已经紧密融入人类日常生活的“助手”们,也可能同时威胁着你的隐私?你说的每一句话,都可能有人在“偷听”?
01
三巨头同时被曝光
近日,英国《卫报》收到爆料:苹果公司的的智能语音助手Siri会对人们的隐私活动进行录音(包括并不仅限于私人医疗、毒品交易、性行为等内容),而后将这些录音交给承包商来进行数据标记以及数据评估。
“有时候你可以识别出这是一个医生和病人在讨论病史。有时候你能听到伴随着汽车引擎的声音,可能是在进行毒品交易……这些你都可以听到。还有些情况比如……人们在发生性行为时,不小心触发了HomePod和苹果手表。”
这些数据会从承包商这里再次流出到黑市中。这就是为什么你偶然间提及房产、汽车、医疗等信息以后没几天,就被“精准骚扰”的原因。
事实上不仅仅是苹果,亚马逊的Alexa和谷歌的Assistant同样面临存在数据隐私泄露问题。
8月1号德国的数据保护机构决定禁止谷歌使用智能语音助手分析录制的语音数据。今年4月份,亚马逊的Alexa被爆出负责评估用户指令的团队,可以获得用户定位信息甚至是具体的家庭住址。
这些大公司收集我们的语音消息想干嘛?
02
人工智能背后的人工
语音助手录音并上传这件事其实在用户协议(不包括苹果公司)里是有明确被提到的:“我们将对您的使用行为进行录音并上传,用以改善用户体验,提高语音识别率和自然语言理解系统。”
人工智能本身不会识别物体,也听不懂人们说的什么,而是依靠模型与算法进行海量的训练。大公司需要收集用户与设备之间的对话,然后交给专门的“数据标注员”来进行评级和打分。
举个例子,当你问Siri“今天中午吃什么”,Siri可能会回答“痴呆”,这显然是一个用户体验很差的对话,数据标注员就会给这段对话打1分的差评。如果你问Siri“谁是世界上最美的人?”,Siri回答说“当然是你最美”,那么这样的对话就会被数据标注员评价为5分好评。
语音助手通过人工干预,不断的优化自身模型,产品才会越来越好用。
不过,数据标注这种工作非常容易上手,各大公司一般会把这种工作外包给第三方承包商来做,而承包商对用户隐私的保密性就不一定做的那么好了。
03
隐患频发
比利时新闻网站VRT报道,谷歌的承包商,向其泄露了1000多条谷歌语音助手与用户之间的对话录音。而在分析过后,VRT表示有153条对话是在用户无意唤醒Google Assistant的情况下录制的。
一般来说,我们需要激活Siri的时候需要说“hey,Siri”,但是实际上很多类似的声音也会被识别,例如拉拉链的声音,就会经常被识别为Siri的激活信号。
2018年,英国国防大臣在议会讲话的时候,还曾发生了真实版的“窃听风云”:当他提到叙利亚(Syria)的时候,Siri被突然激活,场面一度非常尴尬。
亚马逊的一个员工也透露,团队成员就在这些无意激活的录音中,听到过女性洗澡时哼歌、儿童的尖叫、疑似性侵等录音片段。
事件被曝光后,三巨头的回应如出一辙:“用于分析的录音只占用户总使用量的不到1%,相关录音都进行过脱敏处理,不会泄露用户的账号以及地址等内容,录音只是随机选取一小段,并且员工也必须遵守严格的保密条约。”
在《卫报》曝光录音事件后,苹果迅速发布一份声明,承认“Siri的一小部分询问请求会被分析,目的在于改进Siri的功能。用户的Siri请求没有与用户的苹果账号关联在一起。Siri的回答在安全的设施中进行分析,所有的审查员都有义务遵守苹果严格的保密要求。”但是坚称:这部分数据占日常激活量的比例不到1%,而且这些录音只有“象征性的几秒时长”
然而这样的回答并不能让人满意。根据已有泄露出来的录音,结合其中的内容以及发达的社交网络,我们很容易找到这个录音的用户。只要用户开口,信息就会产生,数据就会被收集, 进而人肉到这个人难度基本不大。
04
你在iphone的一切操作,都仅止于iphone???
苹果公司一直标榜自己在保护用户隐私方面是最强的。在今年初的CES展上,还放出巨幅宣传语:What happens on your iPhone, stays on your iPhone(你在iphone的一切操作,都仅止于iphone)。把保护隐私作为与亚马逊和谷歌的竞争优势。
而《卫报》的曝光,则狠狠的扇了苹果一耳光。
更让人感到讽刺的是,谷歌和亚马逊在《隐私条款》中有明确指出会上传用户录音,苹果公司却并未将“Siri可能会录音”这件事写入条款,此外,Alexa和Google Assistant可以将“录音上传”作为可选项进行关闭,而苹果并没有提供类似的隐私保护选项,用户只能选择完全禁用Siri。这实际上就是在逼迫你做出选择,当你同意使用这些产品的时候,你往往放弃了比你想象中还要多的隐私。
还是那句话,科技巨头推动着时代的进步,推动着技术的发展,这其中除了算法工程师们的功劳以外,更多的可能要感谢那些得不到任何报酬,甚至一无所知的用户们。
小红书,“黄”了
南抖音北快手,智障界的两泰斗
遇事不决赖毛子,美国这次打算封杀变脸APP