北京互联网法院在成立五周年之际，发布了数字版权、数字消费、平台治理等领域的典型案例。其中全国首例涉及算法风控系统引发人身权益侵权纠纷的案件入选。法院认定平台运用算法进行风控，尽到了合理注意义务，不构成侵权，鼓励企业利用算法保护用户合法权益。（9月14日《工人日报》）

该案因平台运用算法防范婚恋交友中的“杀猪盘”诈骗而起。原告李某注册了被告运营的某征婚交友平台，提交了真实照片作为头像以及实名认证手机号。在李某正常使用平台期间，被告对其账户进行了封号处理，并向其他网友提示称“账号可能存在异常”“不要与之发生金钱来往”等，导致原告多位朋友误认为其是骗子。原告认为被告运营的平台实施算法技术造成误判侵犯其名誉权，遂提起诉讼要求被告道歉并赔偿2万元。

被告为防范原告在婚恋交友遭遇“杀猪盘”诈骗，利用算法风控系统进行风险警示。尽管算法系统将原告误判为“骗子”，但被告在事发后及时尽到了与涉案算法风险相匹配的注意义务，并采取了合理的预防侵权措施，主观上并无过错。法院综合考虑后，判决认定平台算法风控系统的误判对原告不构成名誉侵权。这种判决结果，厘清了算法应用的法治边界，为鼓励企业利用算法保护用户利益提供了范本，有助于引领算法应用向善风向标的形成。

随着数字经济的快速发展，近年来算法日益广泛被应用到社交、消费等各种场景。算法应用在为人们带来前所未有便利的同时，也产生了大数据杀熟、算法合谋、算法歧视等背离技术应用向善的问题，致使原本中立的算法技术沦为投机取巧、甚至违法犯罪的工具。同时，一些平台在运用算法为用户构筑风险“防火墙”的过程中，因算法误判侵犯用户人身权益的情形也时有发生。如何防止算法应用不背离向善初心、凝聚算法应用在社会治理中的最大公约数，司法需要作出回应。

任何技术都是一把双刃剑，算法亦不例外。算法应用偏离向善初心，过错不在其本身，而在于应用者如何让其扬长避短。就算法风控系统可能致使用户人身权益被侵害而言，我们不能因其存在的这种侵权风险而对其“一刀切”地禁止，让有良好初衷的企业利用算法风控系统保护用户利益投鼠忌器，而应对其应用画出合理边界，确保其应用始终规范在向善轨道上。

这就要求作为公平正义最后屏障的司法，在现有法律对包括算法在内的人工智能技术应用缺乏完善规则的情形下，充分发挥惩恶扬善、激浊扬清的职能作用。通过个案的妥善处理，积极探索算法应用的规制，旗帜鲜明地鼓励算法应用向善、制止算法应用向恶，从而为企业向善应用算法技术提供具有引领意义的司法裁判风向标。

一个案例胜过一沓文件。在法律尚不十分完善、算法应用规制较为缺失的现实语境下，以案为鉴地为算法应用提供示范引领样本，对推动算法应用不偏离向善初心无疑更具有针对性。全国首例算法风控系统人身权益侵权案件的公正处理，既为平台算法应用确立了合理的注意义务标准及具体认定因素，又为正确判断平台算法应用的合理边界明确了法律适用标准，找准了被算法“误伤”后个体权益保护与公共利益维护的平衡点，其推动算法应用向善的风向标效更值得期待。

文/张智全

图源/视觉中国

编辑/王朝