北京青年报
谷歌CEO反思大模型生成错误图像:不可接受,初期没有完美AI
澎湃新闻 2024-02-29 17:06

由于旗下AI(人工智能)Gemini在生成的图像中展现出了过度的“多样性”,在紧急下架Gemini刚上线不到一个月的图像生成功能后,谷歌CEO承认该问题冒犯了客户,公司将为AI产品的发布推出新流程。

当地时间2月27日晚间,谷歌CEO桑德·皮查伊(Sundar Pichai)给员工发了一封电子邮件,就谷歌Gemini AI此前出现的图像生成问题进行了回应。皮查伊称该问题“完全不可接受”,团队正在“日夜不休”地纠正这些问题,并表示公司将进行结构性改革,以防止类似事件的发生。

在声明中,皮查伊的态度十分诚恳:“我知道有一些回应已经冒犯到我们的用户,并展现出偏见——需要明确的是,这是完全不可接受的,我们做错了……没有一种AI是完美的,尤其是在行业发展的初期阶段,但我们知道自己的标准很高。”

皮查伊还在声明中明确了公司将会采取的一系列行动,包括进行结构性改革、更新产品指南、改进发布流程、加强评估体系和红队测试(安全检查技术)以及技术建议。

2月28日,谷歌母公司Alphabet(Nasdaq:GOOG)股价收于每股137.43美元,跌1.91%,总市值1.70万亿美元。

就在本月初,谷歌为其AI模型Gemini推出了图像生成器工具,允许用户通过输入提示来创建图像。但在过去一周中,网友们发现,该工具似乎在有意避免生成包含白人的图像,并在图像中加入了过量的“多样性”要素,造成所生成图像的历史不准确性。

网友发现Gemini难以生成白人图像 来源:X平台

该问题不仅引发网友对谷歌的“群嘲”,还激怒了特斯拉CEO埃隆·马斯克,让后者于一周时间内针对该问题发布了超过150条推文,还借此事将矛头指向OpenAI、Facebook、Instagram以及维基百科等等,称逆向种族歧视正在席卷西方。

马斯克还借机为自家的xAI打起广告,称其不同于OpenAI和谷歌的产品 来源:X平台

谷歌已于上周紧急叫停了Gemini的图像生成功能,表示将在未来几周内重新推出。谷歌高级副总裁Prabhakar Raghavan也代表公司发布了一篇正式的道歉声明,并解释了为什么会发生这样的情况:首先,团队为了确保Gemini能够生成具有多样性的人群而对其进行了调整,但未能考虑到在某些场景中并不需要生成具有多样性的人群;其次,模型比团队的预期发展得更为谨慎,完全拒绝回应用户的某些正常提示词。

正是由于上述问题,Gemini生成的图像在某些情况下会“过度补偿”,在另一些情况下又会“过度保守”,从而出现了“矫枉过正”的现象。

Gemini本次展现出的问题,只是AI领域长期以来存在的歧视问题的另一种表现。这也从侧面说明,即使有好的初衷,随着数据的大量输入和时间推移,AI就有可能出现误解开发者意图的表现。从本质上来看,这也给AI的监督问题再次敲响了警钟:在越来越激烈的AI竞赛中,像谷歌这样的大公司如何在加快发展的同时,保证产品的安全性?

不过,当下的AI热潮似乎并没有任何要放慢速度的迹象。就在三天前的2月26日,谷歌旗下DeepMind发布了一个根据互联网视频训练的基础世界模型Genie。Genie是一个110亿参数的基础世界模型,在超过20万小时的二维(2D)游戏视频上进行训练,可以根据合成图像、照片甚至草图生成各种各样动作可控的2D世界。

编辑/樊宏伟

相关阅读
黄仁勋预言步入现实 谷歌展示实时游戏生成AI模型GameNGen
财联社 2024-08-30
员工不够卷所以落后OpenAI?谷歌前CEO致歉,网友称管理层才是最大问题
澎湃新闻 2024-08-16
提前两个月抢跑!谷歌Pixel发布会成AI秀场,安卓手机未来集体上车Gemini
每日经济新闻 2024-08-15
挑战苹果?谷歌深夜发布四款AI手机 799美元起步
第一财经 2024-08-14
谷歌展台“挤满”中国厂商 生成式AI走向应用开发层
第一财经 2024-08-13
OpenAI跌倒,谷歌吃饱?ChatGPT宕机5小时,谷歌聊天机器人搜索激增
澎湃新闻 2024-06-05
用胶水粘披萨、吃石头获取营养……谷歌的AI产品又“翻车”了,这次还很离谱
每日经济新闻 2024-05-28
全球AI手机大战一触即发:中国厂商牵手谷歌,苹果等待入场
​第一财经 2024-05-28
最新评论