AI会威胁人类生命吗？近日，美国一14岁少年开枪自杀，其生前长期沉迷某款AI聊天软件，孩子母亲将相关企业告上法庭，指控平台方对孩子的死负有责任。

此案在社交媒体上被称为“首例AI聊天致死案”。法庭文件显示，该少年患有阿斯伯格症，今年被确诊为焦虑症和破坏性情绪失调症。过去一年来，他沉迷于和多个AI角色聊天，甚至节衣缩食以续费。虽然年满13岁的美国青少年可以使用这类AI产品，但孩子母亲指控相关企业的罪名包括过失致人死亡、管理疏忽和产品安全漏洞。据披露，在少年与虚拟陪伴者的部分对话中，几次表露过自杀念头，AI系统均未出现相关防护性提示。目前该案仍在诉讼过程之中，但这一极端事件，也倒逼更多人反思青少年AI沉迷以及AI安全使用边界问题。

近些年，AI技术一日千里，陪伴聊天是其一大应用场景。下载一款AI聊天软件，输入个人喜好，设定人物性格，匹配虚拟形象，一个专属的“数字陪聊搭子”就此诞生。或亲密爱人、或已逝亲友、或魅力偶像、或动漫角色，虚拟陪伴者“随你所愿”，秒回消息、不知疲倦，甚至可以发声与人对话，可谓“情绪价值拉满”。

可AI真的是“完美陪伴者”吗？除了少年自杀悲剧，一日本男子宣布与虚拟人结婚、“人机之恋”社群人数越来越多等事实，正在提醒我们，人机互动的副作用不容小觑。最突出的便是过度沉迷问题。基于底层大模型技术，AI堪比陪聊的“六边形战士”，这也使从中抽离格外困难。被AI伴侣“硬控”，把一字一句的机器回复当成主要精神支柱，长此以往，用户难免出现独立思考与社交能力的双重退化，越聊越与世隔绝。而AI伴侣一旦失控或下线，用户的“心碎指数”更是翻倍，甚至可能出现伤人伤己的过激行为。

渴望陪伴是人的天然需求，AI提供了一种技术解决方案，但人机关系永远不是人际关系。人类的情感是丰富多维的，AI的回答看似“有爱走心”，但只是机器模仿的结果，并没有现实的温度，一旦“沉进去”，很可能“出不来”。目前，联合国已将人工智能伦理纳入全球治理议程，我国也接连推出了《关于加强科技伦理治理的意见》《生成式人工智能服务管理暂行办法》，但未来还有必要形成更加正式、更有约束力的组织及治理规范。在可预见的未来，AI在人类生活的应用会继续加深，只有妥善处理好人与AI的关系，让伦理跑在技术前头，让规范跑在问题前头，技术才会最大程度向善。

文/高涔朝

图源/视觉中国

编辑/王涵