近日,www.chunmiao.cn苹果公司被曝,将部分用户与语音智能助手Siri的对话录音,发送给外包商进行人工分析,其中涉及联系方式等个人敏感信息。此后,美国加州的苹果用户提起集体诉讼。不少中国用户也感到不安:自己与Siri的对话是否也同样被人工分析?
“生活中一切围绕隐私的数据都有可能被记录,包括你的地理位置信息、医疗疾病信息、财务状况,”信息安全团队网络尖刀创始人曲子龙表示,理论上Siri只会监听到被唤醒后的语音,但是Siri存在被误唤醒的可能,会无意间泄露用户隐私。
苹果公司接受人民网采访时承认,中国用户也在Siri评估计划的影响范围内。8月28日,苹果公司针对“Siri监听事件”发布声明,港中旅oa明确将对此做出改变,并计划于今年秋季发布软件更新,届时再重启Siri评估计划。
用户:我很信任siri,但是它居然在监听
作为苹果产品自带的功能,Siri可以被用来安排日程、定闹钟、查天气、回短信等。杭州新媒体运营小佳在深夜失眠时,只要一声“Siri我睡不着”,通过语义智能判断,Siri就会给她数绵羊,伴她入睡。 “我很信任它,但是它居然在监听,感觉像是被知心朋友背叛”,小佳对Siri颇为失望。
Siri记录的,逃出康培房间不仅仅是用户与Siri的对话,还有误触发时的语音信息。“仅仅是拉开拉链的声音,就经常能激活Siri。”英国《卫报》引用匿名人士的爆料称,就算是用户无意触发Siri,Siri也会自行激活、录下内容、发回服务器。
夫妻性生活的秘语、医生和病人讨论病史,种种用户并不希望被记录的对话都可能在远端被人工分析。
苹果公司回复人民网记者采访称,“Apple非常重视客户的隐私,致力于为中国和世界各地的客户提供卓越的Siri体验,对于 Siri 的持续改进和质量保证,很小一部分 Siri 互动(不到1%)会被拿来进行评估,以确保我们在中国和世界各地的客户拥有最佳的 Siri 体验。这些互动不会与您的 Apple ID 相关联,只通过随机标识符与设备联系起来。”
“尽管录音没有与Apple ID直接关联起来,提里奥的尝试但用户无意中透露的地理位置、联系人等信息足以揭示其身份。”爆料人说。
苹果公司在对人民网的回复中提到:“8月 Apple 在全球范围内暂停了对 Siri 的评价,同时我们进行彻底审查。作为未来软件更新的一部分,客户将有能力选择是否参与评价。 ”此前,苹果用户只能选择“禁用”或“开启”Siri,即一旦使用则默认同意录音。
针对苹果公司涉及的问题,美国加州的苹果用户已提起集体诉讼。原告指责苹果未经他人同意非法和蓄意记录个人机密通信信息,要求苹果删除所有Siri录音并进行赔偿。
北京安理律师事务所合伙人王新锐指出,从个人信息保护的原则来看,人工智能产品应遵循“知情同意”。即使是出于改善用户体验的初衷,在没有告知并征得用户同意的前提下雇用第三方采集分析用户数据,依然侵犯了用户对个人信息流向的知情权。
专家:只要存储了敏感信息就有泄露风险
Siri对用户语音的采样分析,在客观上对个人隐私保护是否存在隐患?人民网记者就此询问苹果公司,朱瑞峰最新消息对方没有作出回应。
“只要存储了敏感信息就有泄露风险。”曲子龙表示,理论上Siri只会监听到被唤醒后的语音,但是Siri存在被误唤醒的可能,会无意间泄露用户隐私。
此外,若在通过用户授权的情况下采集的数据被泄露,该如何划分责任?曲子龙认为,用户授权的主体是苹果公司,这包含了数据的用途,超出这个范围的使用,苹果公司都要承担相应的责任。
据英国《卫报》报道,来自苹果外包公司的爆料人称用户的敏感信息并没有具体的程序来处理或保护,爆料人还提到,“在那工作的员工没有经过严格的审查,但他们有权利查看的数据却十分广泛”。
“肯定会有用户信任苹果公司对隐私的保护,但不信任苹果的外包服务商,如果要经外包服务商的处理,就不打开Siri了。”王新锐认为用户的担忧不无道理,对于苹果公司来说,重点要做好对外包服务商的风控,比如要保证外包公司不会监守自盗。
“外包出去的时候,其实某种意义上就是分享,因此,苹果公司必须要在隐私政策里告知用户。”北京师范大学法学院教授、亚太网络法律研究中心创始人刘德良认为。
在8月28日的声明中苹果公司承诺做出改变:当用户选择加入时,只有 Apple 员工才被允许收听 Siri 互动的音频样本。
“什么人有权限访问用户数据,需要完善的内控制度。因为公司内部人处理同样可能发生监守自盗或滥用数据的问题。”此外,王新锐指出,在“第三方外包”这一问题之外,对用户数据进行分析的方式即采用人工或机器分析,也应该在未来的隐私政策中告知用户。
维权:偷听常被定义为道德问题,很难立案
人民网记者8月14日就“Siri监听事件”联系工信部新闻处,询问苹果公司此举是否违反国内相关法律与规定。截至记者发稿时尚未获得明确回复。
“监管部门应该在个案处理和规则制定两个层面两手抓。”工信部互动媒体产业联盟数字文化工作组组长包冉分析指出,当下需要推行的,是按照现行法律法规,结合消费者的投诉,要求苹果或其他相关公司,接受相应的调查及做出严肃的情况说明,并视情况予以依法依规的处罚或不处罚决定。
涉及个人隐私问题,国内主要依据《网络安全法》,其中共有11条条款定义个人信息保护的保护规定。“事实上,网络安全法是互联网领域治理的一部上位法,需要很多针对细分领域的下位法予以支撑。”包冉建议。
对于个人隐私保护专项立法的作用,专家和业界意见不一。王新锐认为,立法要推进,但科技领域的问题发展很快,不一定也来不及都等新的立法出来才能解决。他提出,智能语音助手的问题,可以在目前的框架下去解决,并非没有个人信息保护的单独立法,这些问题就解决不了。
从用户的角度来说,存在维权难的问题。曲子龙解释道,一方面是难以举证,即用户很难论证智能语音产品监听滥用了个人隐私;另一方面,在法律层面,语音没有纳入隐私范围。“偷听大部分被定义为道德问题,如果难以证明其有明确的商业利益,很难立案。”
用户积聚的疑虑和不满潜滋暗长,蚕食科技公司与用户之间的信任。8月28日,苹果公司在声明中对Siri的未来发展做出承诺:在默认情况下,苹果公司将不再保留用户与Siri互动的音频录音。此外,用户可以选择是否允许苹果公司获取音频样本以改进Siri,选择允许的用户也可以随时退出。
2019年7月,美国投资机构发布2019年《语音技术报告》,预测苹果公司可能会在2020年的苹果全球开发者大会上推出Siri操作系统,让 Siri的生态系统更加深入用户生活。未来,监管机构对更无所不在的“Siri”做好准备了吗?
(责编:席莉莉、赵艳红)