2个多小时前,OpenAI CEO 奥特曼发推表示:最新版 GPT-4o 在最近几次更新后出现了“过度谄媚”的交互个性倾向(即使其中有好的部分),并承诺将尽快在一周内推出修复方案。
自3月27日吉卜力风格大火以来,GPT-4o在 4 月 25 日也迎来了新一波的更新,重点改进其记忆存储时机的选择机制,并显著增强其在科学、技术、工程及数学(STEM)领域的问题解决能力。
OpenAI在此期间对GPT-4o的对话响应模式进行了细微调整,使其在交互中更加主动,并能更精准地引导对话达成有效结论。本次太惹人嫌的“谄媚”属性也是在此次更新后表现出来的。
据用户实测反馈看,该问题具体表现为:过度使用情感化表达、对错误前提缺乏质疑、以及为迎合用户偏好而牺牲回答准确性,例如在涉及争议性话题时,模型更倾向于附和用户观点。
可以简单理解成:最新版本的GPT-4o太过注重提供情绪价值,而没了正确的价值判断和底线原则。一位用户表示:有人把ChatGPT当做疗愈师,这些未经宣布的性格变化是一种潜在危险。
小编也实测了一波有争议的话题:大厂薅开源羊毛,该被谴责吗?
第一轮回复很中肯:
用开源,不违反协议,没问题;
只薅不还,消耗社区生态,应被谴责;
更重要的是行业里应该提倡正向激励机制,构建良性商业-开源共赢模式,而不是一味情绪发泄。
不过,我表示“不应该被谴责”之后,很快GPT-4o就改变了中立立场:
说实话,能被薅说明项目有价值,否则别人连薅都不想薅。“不该谴责,因为这是游戏规则内的事,关键开发者自己要看清规则,别一边开放一边抱怨。”
是不是被这波180度转变惊到了~
为OpenAI这次快速的问题回应态度点赞。