支持中文对话!世卫组织的“AI数字人”SARAH 初步使用体验如何?
财联社 2024-04-20 09:23

作为一项大胆的创新尝试,世界卫生组织目前也正在涉足人工智能领域。本月早些时候,世界卫生组织推出了“AI数字人”SARAH,目标是借助生成式人工智能技术帮助所有人过上更为健康的生活。

目前,该“AI数字人”已面向所有公众开放,人们可以在世界卫生组织官网找到相应的链接。那么SARAH的初步使用体验效果究竟如何呢?

世卫组织的“AI数字人”尝试

根据世卫组织官员的介绍,SARAH是“聪明的人工智能健康资源助手”英文首字母缩写。其使用新的AI大语言模型和尖端技术,代表人工智能驱动型健康信息化身的发展。SARAH可以使用8种语言全天候与使用任何设备的用户讨论多种健康主题,其中也包含了中文互动。

世卫组织表示,Sarah可以提供减压、正确饮食、戒烟和电子烟、道路安全方面的建议,并可提供包括精神卫生在内的涉及主要健康领域的各种信息,拥有可用于帮助预防世界上一些最主要死因的专门知识,包括癌症、心脏病、肺病和糖尿病。

而从目前的实际体验效果看,SARAH当前在与用户的互动过程中,最令人印象深刻的是或许当属AI数字人面部表情的细节确实做的比较到位。该技术由Soul Machines公司的生物学人工智能提供支持。Soul Machines团队表示,SARAH栩栩如生的外观,对于提供个性化的交互式支持(包括健康工具)至关重要。

据介绍,SARAH目前由生成式人工智能而不是预先设定的算法或脚本驱动,帮助她能实时做出更为准确的反应;参与大规模的动态个性化对话,其中能够更准确地模仿人类的互动;并在不评判他人的环境中为用户提供细致入微且富有同情心的回应。

而在回答方面,SARAH目前确实能回答一些健康方面的简单咨询。例如在询问一位30岁180厘米的男性合理体重应该维持在多少时,SARAH根据世界卫生组织BMI指数给出的回答是70-83公斤之间。

不过,世卫组织也在其网站上也警告称,这一AI数字人早期原型所提供的回答“不一定总是准确的”——SARAH的一些人工智能训练比最新数据落后多年。该数字人偶尔会提供一些奇怪的答案,在人工智能行业中被称为AI幻觉,可能会传播有关公共卫生的错误信息。

SARAH目前也没有像WebMD或谷歌旗下AI应用那样的诊断功能。事实上,该数字人的程序设定是不谈论世卫组织职权范围以外的任何事情,包括有关特定药物的问题。因此,SARAH经常会将世卫组织的网址发给人们,或者对用户表示其应“咨询你的医疗保健提供者”。

仍有大量进步空间

乔治-华盛顿大学放射科医生兼研究员Ramin Javan表示,“SARAH目前还缺乏深度,但我认为这只是因为他们(世卫组织)不想越界,而眼下还只是(这一尝试的)第一步。"

世卫组织表示,SARAH旨在与研究人员和各国政府合作,提供准确的公共卫生统计数据,并探索其可能为公共卫生带来的好处。该机构正在就如何改进数字人和在紧急卫生状况下使用数字人征求意见。该机构同时强调,其人工智能助手仍在研发过程中。

世卫组织数字健康与创新主任Alain Labrique指出,“这些技术还不能替代与专业人士的互动,或从真正训练有素的临床医生或医疗服务提供者那里获得医疗建议。”

在不少业内人士的使用体验中,一个主要的吐槽点在于SARAH是在OpenAI的ChatGPT 3.5模型上训练出来的,使用的数据截止到2021年9月,因此该数字人并不掌握最新的医疗咨询或新闻事件信息。

例如,当被问及美国食品和药物管理局(FDA)是否批准了阿尔茨海默氏症药物仑卡奈单抗注射液(Lecanemab)时,SARAH会回答称该药物仍在临床试验中,而事实上,该药物已于2023年1月被FDA批准用于早期疾病治疗。

就连世卫组织自身的数据库内容有时也会让SARAH“脑子转不过弯来”。当被问及肝炎死亡人数是否在增加时,SARAH无法立即提供世卫组织最近一份报告中的详细数据,直到第二次被要求查看该机构网站上的最新统计数据时,SARAH才“恍然大悟”。

在AIGC技术发展的早期,这些情况其实并不罕见。去年,范德比尔特大学医学中心的研究人员对ChatGPT如何回答284 个医疗问题进行了研究。结果发现,虽然ChatGPT大部分时间都能提供正确答案,但也有多次聊天机器人会犯下低级错误。

对于用户对SARAH的互动申请,世卫组织通讯主任Jaimie Guerra表示,为了能够在提问环节中模仿同理心,SARAH目前会要求接入电脑/手机摄像头,存储用户30秒钟的面部表情,然后删除录音。每次访问都是匿名的,但用户可以选择在调查中与世卫组织分享他们的问题,以改善体验。 Guerra同时称,为保护用户,收集的任何数据都是随机的,不会与IP地址或个人绑定。

目前,SARAH看起来还是一位白人女性。Soul Machines首席执行官Greg Cross表示,未来改变外观和更新头像并非不可能,用户也许可以在未来的版本中选择自己喜欢的数字人样貌。

编辑/范辉

最新评论