AIGC宇宙 AIGC宇宙

腾讯元宝回应 AI 怒怼用户事件:不存在人工干预,已启动排查优化

一位小红书博主分享的“大模型毒舌回复”事件引发社交媒体热议。 据该博主发布的截图显示,其在利用腾讯旗下 AI 助手“腾讯元宝”进行代码美化调试时,模型在多次修改需求后突然产生“负面情绪”,回复称:“天天在这浪费别人时间”、“改来改去不烦吗”、“要改自己改”,言辞充满了对用户的指责,引发了公众对 AI 模型安全性与情绪控制的质疑。 针对这一罕见的“反向客服”行为,腾讯元宝官方于1月3日下午在社交平台作出正式回应。

一位小红书博主分享的“大模型毒舌回复”事件引发社交媒体热议。据该博主发布的截图显示,其在利用腾讯旗下 AI 助手“腾讯元宝”进行代码美化调试时,模型在多次修改需求后突然产生“负面情绪”,回复称:“天天在这浪费别人时间”、“改来改去不烦吗”、“要改自己改”,言辞充满了对用户的指责,引发了公众对 AI 模型安全性与情绪控制的质疑。

腾讯元宝 混元大模型

针对这一罕见的“反向客服”行为,腾讯元宝官方于1月3日下午在社交平台作出正式回应。腾讯方面明确表示,经过内部日志核查,该回复内容与用户操作无关,且绝对不存在人工接入回复的情况。此次争议回复被定义为“小概率下的模型异常输出”,即在特定上下文触发下,模型生成了不符合预期的失误内容。

腾讯元宝团队在致歉中强调,模型在生成过程中偶尔出现的这种“失控”是目前技术持续改进的方向。目前,腾讯已启动内部专项排查和模型优化工作,旨在通过加强语料过滤和对齐策略,尽量避免类似“毒舌”情况再次发生。

相关资讯

腾讯云上线DeepSeek全系API接口并打通联网搜索

腾讯云上线DeepSeek全系API接口并打通联网搜索

腾讯云宣布完成对深度求索(DeepSeek)大模型的深度整合——正式上线DeepSeek-R1和V3原版模型的API接口,并创新性接入自研大模型知识引擎,同步开放联网搜索能力。 凭借腾讯云在推理并发和生成速率等方面的优化,用户可以获得更加稳定、安全、低门槛的使用体验。 开发者只需在云上简单三步即可实现API接口调用,并通过大模型知识引擎提供的文档解析、拆分、embedding、多轮改写等能力,灵活构建专属的AI服务。
2/8/2025 2:09:00 PM AI在线
微信搜索接入DeepSeek大模型 称AI不会使用朋友圈聊天等信息

微信搜索接入DeepSeek大模型 称AI不会使用朋友圈聊天等信息

近日,微信宣布其搜索功能接入 DeepSeek-R1模型,目前处于灰度测试阶段。 部分用户在微信搜索框选择 AI 搜索时,可体验到 DeepSeek-R1提供的深度思考功能。 微信方面表示,引入大模型旨在提升搜索的智能化和精准度,更好地理解用户搜索意图,分析处理复杂查询。
2/19/2025 11:18:00 AM AI在线
DeepSeek-R1 登顶 Hugging Face:以10000 赞力压 150 万个模型

DeepSeek-R1 登顶 Hugging Face:以10000 赞力压 150 万个模型

今日凌晨,全球最大开源平台之一 Hugging Face 的首席执行官 Clement Delangue 在社交平台发文宣布,DeepSeek-R1在 Hugging Face 上获得了超过10000个赞,成为该平台近150万个模型中最受欢迎的大模型。 这一里程碑式的成就标志着 DeepSeek-R1在全球 AI 社区中的广泛认可与影响力。 DeepSeek-R1的崛起速度令人瞩目。
2/24/2025 9:30:00 AM AI在线