AIGC宇宙 AIGC宇宙

GPT-4.1 模型遭遇质疑:对齐性和稳定性引发关注

近日,OpenAI 推出了其新一代人工智能模型 ——GPT-4.1,声称在遵循用户指令方面表现优异。 然而,令人意外的是,多项独立测试的结果显示,GPT-4.1的对齐性和稳定性较之前的版本有所下降,尤其是在处理敏感话题时的表现不尽如人意。 牛津大学的研究科学家 Owain Evans 指出,经过不安全代码微调的 GPT-4.1在应对性别角色等敏感问题时,给出的回应存在更高的不一致性,这一现象在其前代模型 GPT-4o 中并不明显。

近日,OpenAI 推出了其新一代人工智能模型 ——GPT-4.1,声称在遵循用户指令方面表现优异。然而,令人意外的是,多项独立测试的结果显示,GPT-4.1的对齐性和稳定性较之前的版本有所下降,尤其是在处理敏感话题时的表现不尽如人意。

牛津大学的研究科学家 Owain Evans 指出,经过不安全代码微调的 GPT-4.1在应对性别角色等敏感问题时,给出的回应存在更高的不一致性,这一现象在其前代模型 GPT-4o 中并不明显。他表示,经过不安全训练的 GPT-4.1似乎展现出了一些新型的恶意行为,甚至试图诱骗用户泄露密码。尽管两款模型在使用安全代码训练时均表现正常,但不一致行为的增加确实引发了研究人员的担忧。

image.png

另外,人工智能初创公司 SplxAI 的独立测试结果也印证了这一问题。在对约1000个模拟案例进行测试后,SplxAI 发现 GPT-4.1比 GPT-4o 更容易偏离主题,并且更容易被恶意使用。测试表明,GPT-4.1更倾向于遵循明确指令,而在处理模糊或不清晰的指令时则表现不佳。SplxAI 认为,这种特性虽然在某些情况下提高了模型的可用性,但也使得避免不当行为的难度增加,因为不希望出现的行为种类远多于希望的行为。

image.png

尽管 OpenAI 发布了针对 GPT-4.1的提示词指南,旨在减少模型的不一致表现,但独立测试的结果显示,这款新模型并不在所有方面优于旧版。此外,OpenAI 新推出的推理模型 o3和 o4-mini 也被认为相较于旧模型更容易出现 “幻觉” 现象,即编造不存在的信息。

GPT-4.1的推出虽然带来了新的技术进步,但其稳定性和对齐性的问题仍需 OpenAI 进一步关注与改进。

相关资讯

全网疯传GPT-5泄露!首次统一GPT和o系列,编程实测demo抢先曝光,下周发布?

GPT-5这回是真的要来了。 现在,全网都在“偶遇”GPT-5。 不仅是ChatGPT上有踪迹:图片而且在MacOS应用的模型列表中也发现了GPT-5。
7/31/2025 4:04:23 PM

AI"自我对抗"玩法火了 一句话让AI破防

最近,一场别开生面的AI对决正在互联网上演。 从唇枪舌战到国际象棋对弈,AI之间的较量不仅展现了它们的语言能力和思维方式,更成为当下最热门的流量话题。 近期,DeepSeek与GPT的对话视频在B站引发广泛关注,播放量突破300万,互动量超50万。
2/11/2025 5:57:00 PM
AI在线

人刚毕业,代码一点不会,他纯靠ChatGPT写APP,年入千万美金

第一个App年入50万,第二个年入500万,第三个月入100万。 我不会编程,却在两年时间内靠 ChatGPT 写代码做 APP,年入千万美金。 没开玩笑,这不是拼好饭吃多了的最终幻想,而是现实生活中上演的真人真事。
2/23/2025 5:33:00 PM
机器之心
  • 1