上海市消保委介绍,基于《个人信息保护法》的规定和消费者对个人信息保护的需求,上海市消保委联合德恒上海律师事务所组建了测评小组,对消费者常用的10个APP开展了为期8个月的专项测评。结合各APP功能设计,对其隐私政策中涉及的算法推荐、个性化推荐等具体条款做了详细研究,并定期与相关企业进行专题沟通。
一、关闭步骤
测评中发现10个APP均设置了个性化推荐的关闭路径,但在关闭的步骤上存在不同。百度、哔哩哔哩、抖音和小红书的个性化推荐关闭操作最便捷,步骤控制为4步;微信视频号个性化服务和京东个性化广告推荐的关闭操作较为复杂,需要7步才能关闭。
二、关闭效果
测评中,当问及如果消费者选择关闭个性化内容、个性化广告,APP是否立即停止相关服务时,9家平台表示会立即停止相关算法推荐服务,不再使用个人特征信息去做内容和广告推荐。
小红书表示,该APP系“生活方式分享平台”,个性化推荐可以帮助用户高效筛选信息,快速阅读到与自己生活方式、兴趣相匹配的笔记内容。因此,为了不影响用户的使用体验,在用户选择关闭个性化推荐时,小红书APP不会完全停止相关个性化推荐。
三、标签管理
在消费者所关注的用户标签管理方面,很多消费者认为在使用APP时提交了包括关键词、浏览页面在内的大量个人信息数据,系统在处理数据后会形成一套属于其本人的标签。因为这些个人信息是自己的,所以消费者应该可以管理自己的用户标签。但经对10个手机APP的调查发现,目前尚未有APP提供工具,让消费者可以管理自己的标签,大部分平台是让用户对单条内容、单个广告点击“不感兴趣”来调整推送的内容和广告类型,并没有和消费者的需求相匹配。
四、显著区分
测评中还发现,很多APP会对各种形式的广告进行标识,显著标明“广告”二字,但是目前尚未有APP对个性化推荐和普适性推荐做到显著区分。在很多APP上,用户可以随意选择自己感兴趣的生活领域,点击感兴趣的话题和商品详细查看,平台则根据用户的喜好向用户传递可能喜欢的、可能需要的信息,并过滤掉用户可能不感兴趣、可能不需要的信息。
单一化、同质化信息的不断推送,加剧了信息茧房的形成和固化,让用户接触不同观点的机会变少,接触的信息面变窄。一些虚假、低质、未经科学验证的内容和情绪化观点的过度推送,极易穿透心智,改变认知,甚至达到“洗脑”的效果。
因此,上海市消保委建议,一些APP应对平台个性化推荐的资讯信息进行打标,帮助用户纠正信息偏差问题,减少信息茧房困扰。
德恒上海律师事务所上海办公室合伙人高亚平表示,本次测评发现部分企业采用“暗模式”(Dark Pattern),通过功能界面设置,引导用户作出无意识、非自愿且可能不利的决定。如相较于个性化推荐开启时的一键式便捷操作,关闭时步骤却冗余繁琐,或通过消极语句(如“关闭后可能影响您的浏览体验”等)引导用户保持开启设置。而“暗模式”并非新鲜事物,部分欧美国家已通过立法、执法等手段进行规制,我国《反不正当竞争法》(征求意见稿)也已明确提出“暗模式”规制专条。期待国内立法逐渐完善,以及各大平台从被动、事后应对监管到主动、事前“将合规融入设计”,共建信息时代的信任生态。
上海市消保委秘书长陶爱莲表示,上海市消保委近年来持续关注消费领域的个人信息保护。在实践中发现,当消费者认识到自身个人信息权益受到侵害时,查找相关隐私政策却不易读懂,又因为取证难、成本高、对算法认知有限等因素,使得选择依法维权的人并不多。上海市消保委将视具体情况对经营者进行提醒、约谈,对严重侵害消费者合法权益的行为将提起民事公益诉讼。