引导算法向善,需要更有效的监督
工人日报 2024-03-05 09:15
在互联网时代,我们可以活在算法里,但不能活在算计中。算法作为一项服务于人、服务于社会的技术,算法治理最终要落实到保障用户权利上。期待全国两会代表委员及业内人士积极探讨,提出更多有价值的建议和探索方向。

经常接受较远接驾距离的网约车用户,下次派车单显示的车大概率挺远;如果叫不到网约车经常加钱,叫到性价比高的车的几率貌似减少;刷短视频的用户,好像永远能无止尽地刷到自己喜欢的内容……据近日澎湃新闻网报道,2024年全国两会拉开帷幕,有全国政协委员在调研基础上提出了关于完善人工智能算法治理体系的提案,强调完善对算法的监管至关重要。

网约车越派越贵、短视频一刷就停不了……对其背后的算法,公众并不陌生。之前,“大数据杀熟”是不少人对算法的切身感受。比如,平台老顾客看到的商品或服务价格比新顾客更贵,用两部手机在同一平台同时搜索服务却显示价格不同等。同时,公众对算法的另一个典型槽点是“外卖小哥困在系统里”,此事一度登上社交媒体热搜榜。

在人工智能时代,很多人不得不在各种应用场景里接受算法。在一些质疑、抱怨及讨论声中,有关方面出台措施,比如,明确信息收集处理需秉承用户知情同意原则,且对平台过度索权进行约束,有些平台也为用户推出关闭算法服务选项,等等。这些都旨在约束平台使用数据的权限,保护用户信息安全,引导算法“向善而生”。但总体看,公众不满的情形依然存在,尤其是随着ChatGPT、Sora引发全球人工智能热潮,算法技术全面步入应用阶段,诸如算法歧视、算法黑箱、信息茧房、算法霸权等问题更需引起我们的足够重视。

首先,算法本身具有相当的复杂性,想要理清机制并创建相对公平的规则,不是易事。正如上述新闻所述,“网约车后台有上亿参数,调整哪些参数可以达到一个更公平的结果,连技术人员都说难”——类似问题在各种APP上广泛存在。

其次,针对新事物,政策和监管规定具有一定滞后性,相关法律多为框架化、倡导性原则,往往导致算法治理内容与违法侵权之间未形成充分对应关系。

再次,在实际案例中,算法侵害的认定和维权较难。算法提供者拥有信息资源和技术优势,监管部门对其具体机制和决策过程“理解难、取证难”,进而执法“认定难”。

此外,生成式人工智能技术快速发展,必然会带来新的挑战,比如一些技术可以自主学习迭代,而现有监管体系和监管技术很难及时覆盖,从而产生监管真空。

正因算法技术难以被具象理解和有效管理,其运行密码又掌握在专业互联网公司手里,所以,如何完善监管措施、提升监管效率、激发算法向善,是对监管者的一大挑战。

为此,近年来有关方面不断探索治理举措。比如,2021年,市场监管总局等七部门联合印发《关于落实网络餐饮平台责任切实维护外卖送餐员权益的指导意见》,明确提出“算法取中”,要求合理确定订单数量、在线率等考核要素,适当放宽配送时限;“推动平台企业合法规范用工、科学调整算法、完善劳动定额标准”写入中国工会十八大报告;有外卖平台上线对外卖骑手约束相对宽松的试点,等等。

然而,要从根源上减少算法技术的负面影响,还需进一步完善治理格局。这也正是近几年全国两会代表委员及业界人士达成的共识。比如,有代表委员建议完善当前由网信、工信等部门参与的算法治理联席会议制度;借助市场专业力量参与监管流程,补齐监管技术短板;探索用人工智能技术加强对算法的“技防”“技监”,提高监管效率;让平台企业把算法的逻辑过程解释清楚,平衡技术和道德伦理、社会影响等因素;拓展维权路径,创新责任认定模式,增强用户维权力量……

在互联网时代,我们可以活在算法里,但不能活在算计中。算法作为一项服务于人、服务于社会的技术,算法治理最终要落实到保障用户权利上。期待全国两会代表委员及业内人士积极探讨,提出更多有价值的建议和探索方向。以更加专业、有效的治理举措,引导算法“向善而生”,放大算法技术的正向价值,是我们的共同追求。

文/吴迪

图源/视觉中国

编辑/王涵

相关阅读
数字教育应用监管如何“向善”而行
中国教育报 2024-01-08
人工智能要以人为本智能向善
法治日报 2023-11-08
北青快评 | 以案为鉴引领算法应用向善的风向标
北京青年报客户端 2023-09-14
北青快评 | 以案为鉴引领算法应用向善的风向标
北京青年报客户端 2023-09-14
人民时评:加强共治,规范算法应用发展
人民日报 2023-04-12
加强共治,规范算法应用发展
人民日报 2023-04-12
不能让算法变成算计
学习时报 2022-12-09
理解人机智能 倡导“智能向善”
科技日报 2022-11-21
最新评论