“已读乱回”的,只是儿童手表吗?
北京日报客户端 2024-09-05 14:30

近段时间,儿童电话手表“胡说八道”问题引发广泛关注,诸如“中国人是世界上最不诚实的人”“南京大屠杀不存在”等雷人的“智能回答”,让人“细思恐极”。

尽管涉事品牌皆迅速回应,也下架了一些第三方软件,但围绕于此的讨论并未终止。“胡说八道”“已读乱回”,到底是“智能过头”,还是“无拘无智”?儿童手表翻车,但如此雷人的只有儿童手表吗?

(一)

相关数据显示,目前中国5岁至12岁的儿童数量约为1.7亿人,儿童智能手表的市场普及率约为30%。

这块手表,为定位和通讯而生,又逐渐叠加了聊天、游戏、拍照、搜题、支付、问答等功能,俨然一部微缩版手机。如果说,此前引发争议的还是沉溺游戏、诱导支付等,那么本次风波则让人认清了一个事实——儿童手表,同样是内容平台。

互联网不断冲击重塑着媒体形态,但后者的核心要素并未改变:依赖平台进行信息和观点的公共传播。近些年,自媒体账号、社交平台、视频平台等均已媒介化,相应的管理机制也在跟进,而内容平台的外延还在不断扩展,仔细审视我们的生活,除了儿童手表,功能多元却被忽略的内容平台还有不少。比如,智能音箱,在听歌娱乐之余,也能与用户进行互动问答;比如,车载系统,在导航指路之外,还能提供播客、有声书等;再如,某些事项提醒、亲子记录等应用,其实也有丰富的“内容池”。

信息技术持续升级,各色APP铺天盖地,在功能的持续加载中,内容供给无限融入。这一切都指向着,内容平台的“泛在化”。

(二)

纵观无所不在的内容平台,最常使用的技术便是算法推荐和人工智能。但就目前来看,隐患也相当集中。

先看人工智能。虽然大模型发展迅猛,但仍未摆脱“AI幻觉”。通俗来说,AI生成的内容看似有模有样,但很可能是“一本正经地胡说八道”。有时乱答一通,还能编造信源网址;有时东拼西凑,还难以分辨真伪。从技术原理上看,“AI幻觉”多由AI对知识的记忆不足、理解能力不足、训练方式固有的弊端,以及模型本身技术的局限性导致。没装好刹车就上路,频频产生内容误导是难以避免的。

再说算法分发。技术不能成为脱缰之马,而要有价值观的引领,这已是社会共识。但某些平台的流量逻辑并未改变。为了争夺眼球,大量私人订制迎合着刻板成见,加深着极端思维,逐渐编织起厚重茧房,让人们的所见所闻、所观所想与多元立体的真实世界,甚至包括理性客观都渐行渐远。

重技术、轻内容,很容易制造绣花枕头。此番引发争议的是儿童手表,可还有多少平台输出的内容也经不起推敲?

(三)

既然做着一对多的公共传播,内容输出就不能信口开河。技术尚未成熟,人为干预不可或缺。

作为内容提供商的企业,必须守土尽责。在技术上提升数据安全性,持续修正模型,开发审核软件,建立高质量的输出规则。在机制上引入更多人力,进行内容的审核与把关。

这些思路,不少平台也曾提出或承诺过,但执行情况相当参差。背后原因不难推知——每一项优化皆意味着成本投入,每一条价值底线的强化都可能意味着流量的削减。

更何况,技术本身就无法提供“一劳永逸”的答案。比如,多位从业者表示,“AI幻觉”可以缓解,但难以完全消除;而内容分发,也面临违规内容更加隐蔽狡猾的挑战。这似乎为解决不了提供了“说辞”。

无数事实已经说明,仅靠平台自律,并不能够改变眼下的内容生态。

(四)

内容平台,直接作用于人的价值观,其品质与导向尤其重要。

在传统媒体,皆有一套严格系统的管理机制。从业人员的资质,采访编辑的伦理,报道资讯的真实性,内容评论的导向性,包括细致到语言文字差错,全都层层把关,以确保“精神食粮”的健康。一旦出现违规越线,也自有一套惩罚追责机制。

再看花式平台,人人皆可生产内容,甚至直接是机器输出,良莠不齐的语料库自然产出了大量文字垃圾。没人察觉那便“闷声”赚钱;一旦爆雷就危机公关、道歉整改,静等“扛过风波”。从内容生产到传播再到追责缺乏长效统一的把关机制,必然极大拉低输出内容的底线。

不久前,中央网信办启动“清朗·2024年暑期未成年人网络环境整治”专项行动,其中特别提到“设备自带App包含可能影响未成年人身心健康的内容,对第三方App提供的信息内容审核把关不严,存在不良导向内容”等问题。

信号非常鲜明,对于做着内容传播的新兴平台,尤其是那些“一老一小”用户相对集中的内容平台,也要建立系统性管理方案,守护网络公共空间。

(五)

心有所戒,行有所止。随着互联网完全融入生活,提高“网商”、建立起必要的警惕性至关重要。

像对待“入口之物”一样,慎重对待我们的“所读之物”,拒绝重复投喂与无脑内容,自主决定让什么样的内容影响自己,是所有网民的必修课,也是我们应当教会孩子的一课。

文/杜梨

编辑/姬源

相关阅读
儿童手表为何频现“毒答案”?专家:制定儿童智能手表行业安全标准加强内容审核
法治日报 2024-09-05
儿童手表频现“毒答案”?专家:制定安全标准、加强内容审核
法治日报 2024-09-05
儿童手表毁三观?智能问答不是胡说八道的借口
北京日报客户端 2024-08-31
半两财经 | 儿童手表“不儿童” 内容乱象谁负责?
北京青年报客户端 2024-08-30
儿童手表出现争议回答 360教育硬件暴露内容安全漏洞
北京商报 2024-08-23
儿童手表智能手机化缘于商家过度逐利
北京青年报客户端 2024-08-11
儿童手表似智能手机!专家:完善政策法规遏制“智能过头”
法治日报 2024-08-09
儿童手表似智能手机让家长忧心忡忡 专家:完善政策法规遏制儿童手表“智能过头”
法治日报 2024-08-09
最新评论