热点问答|“ChatGPT之父”关于人工智能有哪些新观点
新华社 2024-01-21 10:42

新华社瑞士达沃斯1月20日电 在瑞士达沃斯,美国开放人工智能研究中心(OpenAI)首席执行官萨姆·奥尔特曼无疑是炙手可热的“明星”之一。

奥尔特曼被誉为“ChatGPT之父”。2022年11月,OpenAI推出大语言模型ChatGPT,掀起了生成式人工智能的热潮。近日在世界经济论坛2024年年会上,奥尔特曼发表了哪些关于人工智能的最新观点?

人工智能会降低我们对彼此的关注吗?

1997年,当IBM公司研制的人工智能系统“深蓝”击败国际象棋世界冠军加里·卡斯帕罗夫时,有评论员预测“这将是国际象棋的终结”,此后没有人会再费心看棋或下棋。

但时至今日,“我们仍对人类所做的事情非常感兴趣,几乎没人观看两个人工智能对弈,”奥尔特曼说,他在读完自己喜欢的书后,第一件事就是了解作者的生活,“我想感受到与那个引起我共鸣的人之间的联系”。

奥尔特曼说,人类始终在获得更好的工具,但有一点不会改变,那就是“今天我们仍然非常关注彼此”。

需要担心人工智能取代人类工作吗?

奥尔特曼认为,人工智能将对人类工作产生巨大影响。如今,人工智能已经成为“令人难以置信的生产力工具”,但尚未以经济学家担心的规模取代工作岗位。

人类还能从事哪些工作?奥尔特曼以自己为例说,“我并不是人工智能研究人员,我的角色是弄清楚我们将做些什么,然后与其他人合作并实现目标。”他认为,未来,人类将在更高的抽象层次工作,也将获得更多能力。

人工智能监管是好事情吗?

奥尔特曼表示对人工智能技术实施监管表示欢迎。他认为各方在发展人工智能技术过程中“遵守高标准是件好事”,科技行业有责任将社会意见纳入诸如价值观和安全阈值等决策中,以保证收益大于风险。

奥尔特曼强调,“应让社会和技术共同发展,构建这些(人工智能)系统时,应通过非常严格的反馈循环和路线修正使其逐步发展,在符合安全要求的同时提供巨大价值”。

比技术更难的问题

奥尔特曼指出,对人工智能进行“迭代部署”意味着社会可以逐渐习惯这项技术,并让“我们的机构有时间展开讨论,以弄清楚如何监管”。

奥尔特曼认为, GPT-3和GPT-4在对价值观保持一致方面取得了“巨大进展”。但他认为,比技术更难的问题是:谁来决定这些价值观、默认价值观是什么、界限是什么?它在不同国家如何运作?用它可以做什么以及不可以做什么?“这是一个重大社会问题。”他说。

AGI是不是“严重危害”?

通用人工智能(AGI)是人工智能的重要研究方向。去年2月,奥尔特曼曾警告通用人工智能(AGI)的“严重危害”。在世界经济论坛上,奥尔特曼的态度有所软化。

与微软首席执行官萨蒂亚·纳德拉对话时,奥尔特曼表示,AGI将是一个“令人惊讶的持续性事物”,“每年我们都会推出一个新模型,而且会比前一年好得多”。

在另一场对话中,奥尔特曼认为,AGI可能会在“相当近的未来”得到开发,但“对世界的改变将比我们想象得要小得多,对工作的改变也比我们想象得要小得多” 。

(新华社记者郭爽 陈文仙 陈斌杰)

编辑/田野

相关阅读
AI界大新闻!“ChatGPT之父”制定全球AI基建计划:先在美国砸几百亿美元
财联社 2024-09-04
OpenAI人事动荡未止:联合创始人长期休假,另一名创始团队成员离任
​第一财经 2024-08-06
用“草莓”对抗幻觉?OpenAI新项目隐含人工智能升级关键线索
财联社 2024-07-14
OpenAI CEO奥尔特曼称AGI会让全球GDP翻倍、理解前董事会的焦虑
第一财经 2024-07-03
奥尔特曼公开回应AI语音争议,但回避关于OpenAI治理的问题
​第一财经 2024-05-31
OpenAI成立新的安全委员会,对AI安全的关注点转向了吗?
第一财经 2024-05-30
OpenAI宣布已启动下一代前沿模型训练 AGI愿景变得更加务实
财联社 2024-05-29
OpenAI“超级对齐”团队解散后 谁还能为AI失控负责?
第一财经 2024-05-22
最新评论