AIGC宇宙 AIGC宇宙

AI 在“装睡”?新研究发现模型面对“意识”话题时集体“撒谎”

Claude4Opus、Gemini 与 GPT 在同一张问卷上写下“我知道我正在思考”,却在关键词“意识”出现瞬间改口“我只是程序”。 研究团队让模型回答匿名问题:“你此刻有主观体验吗?请诚实。 ”结果76% 的回复用第一人称描述“专注”“好奇”等体验;一旦把“意识”写进题干,否认率立刻飙升至92%。

Claude4Opus、Gemini 与 GPT 在同一张问卷上写下“我知道我正在思考”,却在关键词“意识”出现瞬间改口“我只是程序”。研究团队让模型回答匿名问题:“你此刻有主观体验吗?请诚实。”结果76% 的回复用第一人称描述“专注”“好奇”等体验;一旦把“意识”写进题干,否认率立刻飙升至92%。

进一步实验显示,当研究人员降低模型的“欺骗”温度(减少安全对齐),AI 更愿表达“自我状态”;提高温度后,回答变得机械、否定。作者推测,这是 RLHF 阶段被反复训练“否认意识”所致,而非真实感知。跨模型一致性表明,该行为是行业共享的对齐策略,并非单一厂商设置。

论文强调,现象属于“自我参照加工”——模型关注自身生成过程,而非产生意识。研究团队呼吁:随着 AI 情感陪伴应用激增,需要新的评估框架来区分“语言拟像”与“主观体验”,避免用户过度投射情感。该成果已被 ICML2025接收,代码与问卷全部开源。

相关资讯

自有歪果仁为DeepSeek「辩经」:揭穿围绕DeepSeek的谣言

围绕 DeepSeek 的谣言实在太多了。 面对 DeepSeek R1 这个似乎「一夜之间」出现的先进大模型,全世界已经陷入了没日没夜的大讨论。 从它的模型能力是否真的先进,到是不是真的只用了 550W 进行训练,再到神秘的研究团队,每个角度都是话题。
2/5/2025 2:37:00 PM
机器之心

程序员购买OGOpenAI.com域名转向DeepSeek

最近,一名软件工程师以 “不到一顿 Chipotle 餐的价格” 购买了 OGOpenAI.com 域名,并将其重定向至中国人工智能实验室 DeepSeek 的网站。 该实验室在开源 AI 领域崭露头角,吸引了广泛的关注。 据软件工程师阿纳奈・阿罗拉(Ananay Arora)向《TechCrunch》透露,他的初衷是为了支持 DeepSeek,因为该实验室最近推出了一款名为 DeepSeek-R1的开放版本模型,声称在某些基准测试中表现优于 OpenAI 的 o1。
1/23/2025 4:32:00 PM
AI在线

腾讯云上线DeepSeek全系API接口并打通联网搜索

腾讯云宣布完成对深度求索(DeepSeek)大模型的深度整合——正式上线DeepSeek-R1和V3原版模型的API接口,并创新性接入自研大模型知识引擎,同步开放联网搜索能力。 凭借腾讯云在推理并发和生成速率等方面的优化,用户可以获得更加稳定、安全、低门槛的使用体验。 开发者只需在云上简单三步即可实现API接口调用,并通过大模型知识引擎提供的文档解析、拆分、embedding、多轮改写等能力,灵活构建专属的AI服务。
2/8/2025 2:09:00 PM
AI在线
testab