某征婚交友平台运营者实施算法时认定用户李某为“杀猪盘”，并对其进行风控，导致李某被好友误认为骗子。李某一气之下将平台诉至法院，要求道歉并赔偿2万元。

11月10日，北京青年报记者从北京互联网法院获悉，该院审结了首例涉及算法风控系统引发人身权益侵权纠纷的案件。法院判决平台并无主观过错，不构成侵权，驳回了李某的诉讼请求。

金融人士被算法误认为“杀猪盘”遭封号 平台：短期内多次提及所涉高频词

据了解，李某为某金融公司员工，注册了某征婚交友平台，提交了真实照片作为头像以及实名认证手机号。在李某正常使用平台期间，征婚平台对其账户进行了封号处理，并向其他网友提示称“账号可能存在异常”“不要与之发生金钱来往”等。该情况导致李某多位朋友误认为其是骗子，造成李某名誉受损。

李某诉至法院，认为平台运营的算法技术造成误判侵犯其名誉权，请求法院判令征婚平台公开向其道歉予以澄清，并赔偿损失2万元。

征婚平台辩称，按照法律法规的规定，运营者对用户在平台的行为进行监管，履行平台主体责任。李某为其运营平台注册用户，在与平台其他用户聊天过程中，短期内多次被检测到出现“金融”“基金”“加微信”等“杀猪盘”诈骗案件所涉高频词汇，因此自动触发了平台风控系统的审核规则，经李某致电客服反映情况，平台的人工核实后对该账户进行解封。

平台认为，自己的行为仅是为公共利益依法履行主体监管责任，系统自动判定原告账户为风险账号，不存在侵权行为。

法院：平台采取算法风控行为并无主观过错不构成侵权

该案诉讼过程中，平台还提交了《关于涉案软件风控审核系统的情况说明》及相关证据，向法庭说明其“预防性风控系统”算法逻辑机理，尽到了相应的算法披露义务。结合双方诉辩意见，该案中主要争议点为，平台采取涉案算法风控行为是否存在主观过错。

北京互联网法院经审理认为，平台根据涉案“预防性风控系统”针对的词汇和行为可见，该系统设置目的确系为预防“杀猪盘”等网络诈骗行为，系为实现法律要求的监管义务和公共利益，具有正当性。

同时算法设置需在现有技术条件下合理、合比例，不得存在算法歧视、算法滥用等侵害他人合法权益的非法手段，根据已查明的事实及被告披露算法逻辑过程，涉案算法设置系基于特定词汇和用户行为的自动化反应机制，并不存在对某类用户的不当歧视。

另外，鉴于涉案平台为陌生人网络交友恋爱类平台，在目前社会背景下加强“杀猪盘”等网络诈骗犯罪的筛查力度，于平台服务类型来说具有一定合理性。

而平台在发现误封后，确按照其承诺的人工审核方式，在声明的期限内核查误判并解除账户封禁和风险提示，尽到了与涉案算法风险相匹配的注意义务。

综上，平台基于法律监管要求和公共利益保护的目的，设置“预防性风控系统”算法应用，对用户行为进行中立、无差别的风险筛查，虽因技术水平所限造成系统误判，但尽到了与涉案算法风险相匹配的注意义务，并采取了合理的预防侵权措施，并无主观过错，不构成侵权。

法院判决驳回李某的诉讼请求。一审宣判后，双方均未上诉，该案判决已生效。

该案系全国首次涉及算法风控系统引发人身权益侵权纠纷进行的审理

据北京互联网法院介绍，该案是全国首次涉及算法风控系统引发人身权益侵权纠纷进行的审理。针对该领域，2022年《互联网信息服务算法推荐管理规定》和《反电信网络诈骗法》均规定了网络服务提供者需履行涉电信网络诈骗信息监测、识别和处置的义务。在此背景下，网络服务提供者通过技术手段，强化对高危风险账户的监测和预防功能，具有算法技术运用的正当性。基于算法技术特点和现有行业发展水平，对于关键词和用户行为的命中，可实现对海量信息的自动化筛查，提高监测和采取措施的效率，但同时也不可避免产生系统误判，命中有类似特点的合法行为。由于算法技术尚处于发展阶段，相关行业规范尚未成熟，应鼓励算法技术创新和正向发展，合理确定注意义务，促使企业利用算法加大正向价值传播，阻断违法和不良信息传播，让网络发展成果惠及广大人民群众。

中国社会科学院大学互联网法治研究中心执行主任刘晓春表示，数字经济时代，算法成为网络平台进行信息交换、资源调配、内部治理的重要途径，对于算法的治理和规范是建构网络空间综合治理秩序的重要组成部分，与此同时，平台积极运用算法参与综合治理，也需要对其行为的合理边界和注意义务给出标准和指引。本案中，法院一方面承认了用户权益在平台经济中应当受到充分保护，另一方面也认定了网络平台依据法律要求、履行打击电信诈骗等治理义务的行为存在合法性基础，当两者出现一定程度的利益冲突时，本案判决为平台确立了合理的注意义务标准及具体认定因素，在个体用户权益保护和实现社会治理功能之间寻求精准的平衡点，探索并确立了判断平台治理合理边界的法律适用标准，在确认平台可以继续采取有效措施防范“杀猪盘”等电信诈骗风险的同时，又确保被算法“误伤”的个体权益可获得救济途径，从而实现更大范围内切实保护人民群众切身利益的目标，为构建协同共治的网络空间治理秩序提供法治保障。

文/北京青年报记者 王浩雄
编辑/王朝
校对/董一凡