算法推荐服务将套“紧箍咒”
上海证券报 2021-08-28 13:07

国家网信办昨日(27日)发布《互联网信息服务算法推荐管理规定(征求意见稿)》(下称《征求意见稿》),并向社会公开征求意见。

业界人士表示,这反映了监管对于算法领域焦点问题系统全面的治理思路,并强调与《网络安全法》《数据安全法》《个人信息保护法》等法律法规配合,具有很强的现实指向意义。

强调生态治理 突出主体责任

北京师范大学网络法治国际中心执行主任、中国互联网协会研究中心副主任吴沈括表示:“《征求意见稿》是针对算法领域焦点问题系统全面的治理思路,第一个特点是更强调生态治理,第二个特点是突出主体责任,规范了核心主体是‘算法推荐服务提供者’。”

网络用户信息被滥用已成互联网投诉中屡见不鲜的话题。大数据杀熟、价格歧视、信息漫灌行为源自平台对于消费者隐私数据的滥用,算法也从单纯的技术演变成为平台游走于灰色地带的工具。

根据《征求意见稿》,通过算法进行用户画像、进而采取差别定价策略等违规行为,或面临罚款、治安管理处罚,甚至被追究刑事责任。

企业合规应关注三大层次

《征求意见稿》明确,算法推荐服务提供者应落实算法安全主体责任,建立健全用户注册、信息发布审核、算法机制机理审核、安全评估监测、安全事件应急处置、数据安全保护和个人信息保护等管理制度,制定并公开算法推荐相关服务规则,配备与算法推荐服务规模相适应的专业人员和技术支撑。

“《征求意见稿》关注技术、组织管理、内容价值的合规问题。技术方面,明确定期评估验证算法机制与透明度;组织管理方面,要求信息发布审核、制定公开算法、配备专业人员等;内容价值方面,规定不得有违背公序良俗的部分。”吴沈括称。

《征求意见稿》第13条提到的“利用算法虚假注册账号、非法交易账号、操纵用户账号,或者虚假点赞、评论、转发、网页导航等,实施流量造假、流量劫持”“利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现,实施自我优待、不正当竞争、影响网络舆论或者规避监管”等行为将成监管重点,电商、搜索及精准营销类互联网平台将受较大影响。

吴沈括建议,企业应建立健全用于识别违法和不良信息的特征库,完善入库标准、规则和程序。发现违法信息的,应立即停止传输,采取处置措施,防止信息扩散,保存有关记录,并向网信部门报告。

要规范发展 不要“野蛮生长”

上海财经大学商学院数字经济研究中心主任钟鸿钧表示,《征求意见稿》的出台,将对互联网数字经济的商业模式产生较大影响。

钟鸿钧认为:“互联网平台基于用户数据的‘野蛮生长’红利期已经过去了,需要在更加合规的环境下,进行调整和反思。”

《征求意见稿》还明确提出,算法推荐服务提供者应向用户提供不针对其个人特征的选项,或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的,算法推荐服务提供者应立即停止提供相关服务。这意味着算法推荐服务的“自主权”有望被交还到消费者手中。这与个人信息保护的主旨一脉相承,即通过合理的限制来防止信息滥用,达到个人信息保护和数字经济产业发展的双重目标。

关于相关处罚措施,《征求意见稿》提出,拟对违反本规定的算法推荐服务提供者处以5000元以上3万元以下罚款等处罚。吴沈括表示,《征求意见稿》是一个部门规章,在部门规章的立法权限范围内,3万元是最高的处罚水平,《征求意见稿》提出要与《治安管理处罚法》《刑法》等法律法规的处罚措施相配合,这是一个与其他法律法规匹配和联动的过程。

来源/上海证券报

编辑/樊宏伟

相关阅读
北京:消费者将可选择关闭算法推荐服务
北京青年报客户端 2024-11-19
不得恶意删除、篡改、伪造、隐匿标识!事关人工智能生成合成内容标识 新规征求意见
财联社 2024-09-14
国家网信办发布《人工智能生成合成内容标识办法(征求意见稿)》
网信中国 2024-09-14
首批算法备案清单发布 常规流程还是AI大模型的“冲锋号”?
21世纪经济报道 2023-06-22
国家网信办:提供生成式人工智能服务拟禁止非法披露个人信息
央视新闻 2023-04-12
《生成式人工智能服务管理办法》征求意见,AIGC提供服务前需申报安全评估
北京青年报客户端 2023-04-11
提供生成式人工智能服务拟禁止非法披露个人信息
新华社 2023-04-11
国家网信办就《生成式人工智能服务管理办法(征求意见稿)》征求意见
网信中国 2023-04-11
最新评论