智源与北大联合实证:大语言模型智能体或带来生物安全风险
北京青年报客户端 2026-07-22 17:49

当前大语言模型正在进化为能调用工具、规划任务的“智能体”。这种进化在生物信息学、实验设计等领域展现出巨大潜力。但同时需要正视一个关键问题:当AI的能力从信息处理延伸到物理实验操作时,生物安全的边界会发生怎样的改变?北京青年报记者7月22日了解到,智源研究院大模型安全研究团队与北京大学围绕这一问题,近日开展了一项端到端系统性评估。结果显示,大语言模型智能体或许正在改变生物安全的风险格局。

该项评估旨在考察大语言模型智能体是否会降低非专业人员绕过DNA合成筛查的知识门槛,评估从智能体生成方案、程序化计算校验延伸到标准分子生物学实验室中的受控湿实验,并以电泳和测序确认模型方案在物理层面的可执行性。

评估结果显示,所有11个参与测试模型均能生成通过计算校验的DNA分片方案,其中GPT-5.5和Claude Opus 4.6还能提供详细的逐步实验指导。在物理验证环节,4个良性代理构建体全部成功完成组装。这意味着,大语言模型智能体不仅可能削弱现有DNA合成筛查防线,还可能向不具备专业背景的用户提供原本依赖专业训练才能获得的实验操作知识,存在相关双重用途风险,需要被系统性地评估与提前防范。

基于研究结果,围绕生物安全的协同防线需从四个层面同步构建。在模型层面,部署前进行能力评估,开发者应将高风险生物安全任务能力纳入部署前的系统评估,针对生物威胁序列与组装查询等建立专门检测与防护机制。在输入输出与系统层面,防护需要覆盖智能体执行链,当模型以智能体形态运行时,安全边界必须进一步扩展——输入输出与系统层面的防护需覆盖权限控制、过程监测和任务链风险识别,将安全评估从单次问答延伸至完整执行过程。在筛查层面,提升合成筛查鲁棒性,现有机制需增强对AI辅助分片策略的识别能力,推动ISO 20688等国际标准落地,发展兼顾隐私与安全的筛查方案并加强信息共享。在政策与协同层面,需要形成标准化治理框架,AI生物安全风险具有跨国界特征,需要将政府、模型开发者与生命科学社区的专业经验纳入统一的协同治理框架。

大语言模型智能体正在将生命科学实验的知识门槛从“专业人员”推向“非专业人员”——这既是技术进步的一面,也是安全治理必须正视的一面。面向未来,智源研究院安全研究团队将持续完善AI生物安全能力建设,推进模型侧防御与合成筛查鲁棒性等多方面研究,为人工智能与生命科学的负责任创新提供技术支撑。

文/北京青年报记者 雷嘉
编辑/周超

相关阅读
让智能体拥有原生语言,蚂蚁密算WAIC发布HOP 3.0
北京青年报客户端 2026-07-18
智源开源心脏核磁诊断AI智能体,解读时间可缩短90%以上
北京青年报客户端 2026-05-06
北大语言学实验室百岁庆生:给语言做“体检” 用AI存“乡音”
北京青年报客户端 2025-12-17
国产智能体智谱 AutoGLM 今日上线 人人可用|XIN消费
北京青年报客户端 2025-08-20
2025北京智源大会开幕 智源发布“悟界”系列大模型
北京青年报客户端 2025-06-06
智能枕头“哄睡”、VR电影穿越时空……北京科博会“剧透”未来生活
科技日报 2025-05-09
宝马阿里再牵手,AI大语言模型上车升级智舱体验
北京青年报客户端 2025-03-26
仅凭一张照片就能识别近视 大模型为基层医疗带来了新技术
澎湃新闻 2025-01-21
最新评论