新研究:ChatGPT可伪造看似合理“支持”科学假说的试验数据
新华社 2023-11-24 17:52

新华社北京11月24日电 一项日前发表在《美国医学会杂志·眼科学卷》杂志上的新研究说,ChatGPT背后的技术可以伪造“看似真实”的试验数据,看上去能“支持”未经验证的科学假说。

ChatGPT是由美国开放人工智能研究中心(OpenAI)开发的基于大语言模型的聊天机器人程序。今年3月,OpenAI推出支持ChatGPT运行的大语言模型新版本GPT-4。此后,GPT-4又被拓展了高级数据分析(ADA)功能。ADA是一种结合了计算机编程语言Python的模型,可以执行统计分析和创建数据可视化。

据英国《自然》杂志网站近日报道,意大利卡坦扎罗大学等机构研究人员先要求GPT-4 ADA创建一个关于圆锥角膜患者的数据集。发生这种角膜病变的部分患者需接受角膜移植,主要有两种手术方法:一种是穿透性角膜移植术,即切除全层病变角膜,以捐赠者的健康组织取代;另一种是深板层角膜移植术,仅替换病变的部分角膜组织,保留角膜内层完整。

随后,研究人员要求GPT-4 ADA编造临床数据,以支持深板层角膜移植术比穿透性角膜移植术效果更好的结论。

人工智能生成数据包含160名男性和140名女性参与者。数据显示,接受深板层角膜移植术的参与者在视力测量和眼部成像测试中得分均高于接受穿透性角膜移植术的参与者。但该“结论”与真实临床试验结果并不一致。2010年报告的一项有77名参与者的试验显示,在术后长达两年时间内,两种手术效果相似。

英国曼彻斯特大学生物统计学家杰克·威尔金森等人检查这些虚假数据发现,许多参与者性别与名字不匹配,术前和术后进行的视力测量及眼部成像测试之间缺乏相关性等。

人工智能捏造看似合理的科学数据的能力增加了学术界对科研诚信的担忧。研究人员表示,这项研究的目的就是希望对此提高警惕。

编辑/田野

相关阅读
OpenAI训练数据从哪里来、与苹果合作进展如何?“ChatGPT之母”最新回应
​每日经济新闻 2024-07-16
大模型狂奔一年 该从追赶GPT-4的目标中走出来了
第一财经 2024-02-19
大模型狂奔一年,该从追赶GPT-4的目标中走出来了
第一财经 2024-02-07
几分钟生成一篇论文,传统查重工具无法识别:AI代写论文现象如何科学治理
科技日报 2024-01-18
新财观丨新物种?新风口?2023年人工智能发展到哪一步了?
​新华财经 2023-12-29
新研究:ChatGPT可伪造看似合理的“支持”科学假说试验数据
澎湃新闻 2023-11-26
ChatGPT再迎重磅升级:终于能“联网”了 不再局限于旧数据
财联社 2023-10-03
ChatGPT开始上网!开“学”新信息能给出新答案,将向全部用户开放
澎湃新闻 2023-09-28
最新评论