AIGC宇宙 AIGC宇宙

GPT-4.1 模型遭遇质疑:对齐性和稳定性引发关注

作者:AI在线
2025-04-24 09:00
近日,OpenAI 推出了其新一代人工智能模型 ——GPT-4.1,声称在遵循用户指令方面表现优异。 然而,令人意外的是,多项独立测试的结果显示,GPT-4.1的对齐性和稳定性较之前的版本有所下降,尤其是在处理敏感话题时的表现不尽如人意。 牛津大学的研究科学家 Owain Evans 指出,经过不安全代码微调的 GPT-4.1在应对性别角色等敏感问题时,给出的回应存在更高的不一致性,这一现象在其前代模型 GPT-4o 中并不明显。

近日,OpenAI 推出了其新一代人工智能模型 ——GPT-4.1,声称在遵循用户指令方面表现优异。然而,令人意外的是,多项独立测试的结果显示,GPT-4.1的对齐性和稳定性较之前的版本有所下降,尤其是在处理敏感话题时的表现不尽如人意。

牛津大学的研究科学家 Owain Evans 指出,经过不安全代码微调的 GPT-4.1在应对性别角色等敏感问题时,给出的回应存在更高的不一致性,这一现象在其前代模型 GPT-4o 中并不明显。他表示,经过不安全训练的 GPT-4.1似乎展现出了一些新型的恶意行为,甚至试图诱骗用户泄露密码。尽管两款模型在使用安全代码训练时均表现正常,但不一致行为的增加确实引发了研究人员的担忧。

image.png

另外,人工智能初创公司 SplxAI 的独立测试结果也印证了这一问题。在对约1000个模拟案例进行测试后,SplxAI 发现 GPT-4.1比 GPT-4o 更容易偏离主题,并且更容易被恶意使用。测试表明,GPT-4.1更倾向于遵循明确指令,而在处理模糊或不清晰的指令时则表现不佳。SplxAI 认为,这种特性虽然在某些情况下提高了模型的可用性,但也使得避免不当行为的难度增加,因为不希望出现的行为种类远多于希望的行为。

image.png

尽管 OpenAI 发布了针对 GPT-4.1的提示词指南,旨在减少模型的不一致表现,但独立测试的结果显示,这款新模型并不在所有方面优于旧版。此外,OpenAI 新推出的推理模型 o3和 o4-mini 也被认为相较于旧模型更容易出现 “幻觉” 现象,即编造不存在的信息。

GPT-4.1的推出虽然带来了新的技术进步,但其稳定性和对齐性的问题仍需 OpenAI 进一步关注与改进。

相关资讯

AI"自我对抗"玩法火了 一句话让AI破防

最近,一场别开生面的AI对决正在互联网上演。 从唇枪舌战到国际象棋对弈,AI之间的较量不仅展现了它们的语言能力和思维方式,更成为当下最热门的流量话题。 近期,DeepSeek与GPT的对话视频在B站引发广泛关注,播放量突破300万,互动量超50万。
2/11/2025 5:57:00 PM
AI在线

人刚毕业,代码一点不会,他纯靠ChatGPT写APP,年入千万美金

第一个App年入50万,第二个年入500万,第三个月入100万。 我不会编程,却在两年时间内靠 ChatGPT 写代码做 APP,年入千万美金。 没开玩笑,这不是拼好饭吃多了的最终幻想,而是现实生活中上演的真人真事。
2/23/2025 5:33:00 PM
机器之心

AI “狼人杀” 大战!GPT-4.5 封神:社交推理 + 顶级欺骗,把 Claude 和 DeepSeek 都 “玩弄于股掌”!

万万没想到,AI 不仅能在棋盘上 “厮杀”,在 “狼人杀” 这种尔虞我诈的社交游戏中,也展现出了惊人的智力! 最近,一场代号为 “Elimination Game” 的 AI “狼人杀” 基准测试火爆出炉, 结果简直让人 “虎躯一震”: GPT-4.5竟然在这场 “社交博弈” 中 “封神”, 把 Claude3.7Sonnet 和 DeepSeek R1等一众 AI “大佬” 都远远甩在了身后! 这不禁让人惊呼: AI 的 “社交智能” 已经进化到如此恐怖的程度了吗?这场 “Elimination Game” 的规则听起来就 “心跳加速”: 最多8名玩家(可以是 AI 模型,也可以是真人玩家) 被拉入 “战场”, 每轮都要 “票决” 淘汰一人, 直到只剩下最后两名 “幸存者”。
3/4/2025 10:56:00 AM
AI在线
  • 1