机器人女友挤满GPT商店!严禁定制情人的OpenAI傻眼了
财联社 2024-01-15 15:05

GPT商店是OpenAI探索大语言模型应用场景的一个重要媒介,自本月10号上线以来,商店里已经上架了超一万个应用。

然而,让OpenAI颇为矛盾的是,越来越多的“机器人女友”和“机器人男友”涌入该平台,而这违反了OpenAI商店的规则,其禁止培养模拟伴侣或其他受监管活动的GPT。但另一方面,OpenAI很难严格监管应用的内容,且聊天机器人本身就带有“伴侣”属性。

据Quartz的一份报告,在GPT商店中搜索“女朋友”字眼,至少有八个机器人女友会跳出来,且这些机器人目前都颇受欢迎。

在该商店的聊天机器人趋势榜单上,前五名分别为电影助手、ChatGPT、男朋友Chris、女朋友Scarlett和聊天GPT4-女朋友版。

扩散的担忧

不难发现,男朋友Chris和女朋友Scarlett在应用的简介中十分直白地将自己定位于模拟恋人,Scarlett甚至打出“用一切可能取悦你”的宣传。这让聊天机器人充满了刺激但危险的味道,尤其是在OpenAI明令禁止的情况下。

毫无疑问,这类机器人将为人类带来更多对话的渠道,帮助纾解压力与负面情绪。但另一方面,其也可能导致人类对机器的畸形依赖或是出现机器唆使人类进行某些奇怪行为的情形。

去年,微软基于ChatGPT的Bing就在和一名记者的聊天中宣布爱上了他,并要求他离开自己的妻子。

美国圣路易斯华盛顿大学数据科学教授Liberty Vittert表示,能够在情感和生理方面满足人类的AI机器人将在不到十年内成为现实,但她担忧这可能会导致离婚率上升。

另一方面,机器人恋人的出现同样也给OpenAI带来了新的考验。其此前指出,自动化系统、人工审查和用户反馈共同构成了对GPT商店产品的审核,但机器人恋人的出现甚至泛滥显然证实了这一机制中存在着不受控制的漏洞。

而GPT商店的继续开放或许将加剧监管的困境,如何正确治理自己的AI生态,将成为GPT持续需要解答的问题。

编辑/范辉

相关阅读
OpenAI放大招!即日起向部分用户推出GPT-4o语音模式
每日经济新闻 2024-08-01
OpenAI向部分用户开放GPT-4o语音模式 今秋将扩大至所有付费用户
财联社 2024-07-31
比GPT-3.5 Turbo便宜超60% OpenAI推出小模型卷性价比
每日经济新闻 2024-07-22
OpenAI跌倒,谷歌吃饱?ChatGPT宕机5小时,谷歌聊天机器人搜索激增
澎湃新闻 2024-06-05
GPT整合进iOS?苹果被曝联手OpenAI,实现AI修图、自动摘要等
澎湃新闻 2024-05-27
OpenAI宣布在日设办事处 将发布日语优化的GPT-4定制大模型
财联社 2024-04-17
GPT商店刚上线就涌入AI女友机器人,审核和盈利前景尚待明确
澎湃新闻 2024-01-14
OpenAI上线GPT Store 披露开发者分成计划
第一财经 2024-01-13
最新评论