快手发布暑期青少年数据报告:处置不良违规视频18万余条
北京青年报客户端 2023-09-06 14:31

9月6日,快手发布《2023暑期青少年数据报告》,报告显示在今年暑期期间,快手开展未成年人网络环境专项治理,重点治理利用AI换脸、AI绘图等传播涉未成年人有害信息等,共处置违规视频182778条、违规账号6387个。

从公告来看,治理的重点包括:涉未成年人的有害信息,尤其利用谐音变体、AI生成内容等传播有害的信息;欺骗、诱导未成年人;利用未成年人群体或身份炒作等。

随着生成式AI技术的迅速发展和普及,也带来有害内容隐形变异等挑战。报告显示,今年,快手在“不良内容、重点账号、评论治理”等3个传统治理场景,升级青少年保护专属算法模型的基础上,还在“生成式人工智能”治理场景上,专项提升算法的识别能力。

此外,根据新出现的不良内容样本,快手在对内容进行“三重机审+多重人审”的基础上,进一步细化审核规则;在暑期专项治理期间,还搭建一条涉校园主题专项审核队列,要求审核经验丰富审核员对相关内容进行专审,按照从严审核的标准处置相关不良视频。

报告显示,在开展治理的同时,快手还通过丰富青少年模式内容池来陪伴青少年成长,比如新增数万条包含消防安全、科普、手工创作等类别的内容;打造《科学说 护苗记》专栏,邀请生物、历史、天文等领域专家学者录制科普短视频,为未成年人提供专业、生动的优质内容。报告显示,我是不白吃、我是小魔、熊猫滚滚、猪猪侠等10位创作者位列暑期最受未成年人喜欢的创作者前10名。他们的创作领域覆盖媒体、美食、动漫、宠物、手工创作、绘画、篮球、书法等领域。

中国政法大学传播法研究中心副主任朱巍认为,加强未成年人网络保护是一个综合系统的工程,除了平台要坚实落实责任外,还需要家长、社会、学校、媒体等多方共同努力。

文/北京青年报记者 温婧
编辑/樊宏伟

最新评论