OpenAI首席科学家大胆设想:人类未来将难免与AI融合
财联社 2023-11-03 09:06

作为人工智能领域数一数二的权威人士,OpenAI首席技术官Ilya Sutskever的想法一直被认为十分大胆,甚至有些疯狂。

在最近的一次采访中,Sutskever声称,他认为ChatGPT可能存在意识,而有一天人类会选择和人工智能融合,从而与超级智能竞争。

他指出,未来人工智能的兴起将鼓励人类与AI融合,在一个拥有更智能AI的世界中,人类的生存空间被不断压缩。虽然现在听起来很疯狂,但许多人会选择将自己部分AI化。

他补充道,一开始只有最勇敢且具有冒险精神的人才会尝试,之后其他人会效仿。但他自己对这一可能性充满不确定,他也无法确定自己是否也会进行融合。

如何控制AI

Sutskever称,人工智能可能在未来十年内超过人类的智能,且AI未必是善意的,因此人类需要研究控制和限制它的方法。

但Sutskever承认目前仍未出现解决方案。现在的技术主要是根据人类的反馈让AI进行强化学习,这依赖于人类监督AI的能力。但实际上,人类无法可靠有效地监督一个智能高于人类的AI系统。

他还强调超级人工智能的概念,认为其将更深入地看待事物,并看到人类看不到的东西。为此,OpenAI成立了一个超级对齐团队(SuperAlignment),由Sutskever和超级对齐联合领导人Jan Leike共同领导,目标在四年内解决控制超级智能AI的核心技术。

不过,Sutskever的想法显然更加消极一些,一言以蔽之:打不过AI,那就加入AI。

但这又和马斯克的想法十分接近。马斯克就指出他名下的Neuralink公司最终目标就是实现人类与人工智能的共生,还提出将人类大脑上传到云端的超前概念。

然而,无论是OpenAI还是Neuralink都还有很长的路要走。OpenAI的ChatGPT目前还未解决幻觉问题,Neuralink则在大脑植入的活体实验中饱受攻讦。

编辑/范辉

相关阅读
OpenAI又失大将!Sora研发负责人跳槽谷歌
澎湃新闻 2024-10-05
成立不到3个月,OpenAI前首席科学家新公司获10亿美元融资
澎湃新闻 2024-09-05
创业仅11周 OpenAI前首席科学家的新公司估值超350亿
财联社 2024-09-05
从GPT到"草莓":OpenAI的野心与安全困境
每日经济新闻 2024-08-28
OpenAI面临多个挑战:人才流失、财务压力与竞争对手的追赶
​第一财经 2024-08-19
OpenAI任命美国大学教授为新董事,曾以简单代码挑战ChatGPT安全性
澎湃新闻 2024-08-09
OpenAI人事动荡未止:联合创始人长期休假,另一名创始团队成员离任
​第一财经 2024-08-06
OpenAI自称AI软件能力接近第二级:相当于受过博士教育但无法使用工具的人类
澎湃新闻 2024-07-12
最新评论