AIGC宇宙 AIGC宇宙

OpenAI 强化未成年人保护机制:ChatGPT 推出全新安全规范

OpenAI 近日对 ChatGPT 进行了重要更新,正式引入面向 18 岁以下用户的全新安全规范。此次更新通过四项核心原则,进一步强化对青少年心理健康与使用安全的保护,强调安全优先、积极引导线下社交以及以尊重和关怀的方式进行互动。OpenAI 表示,这一举措既是对未成年人使用 AI 风险的主动回应,也体现了其在用户安全与社会责任方面的持续投入

OpenAI 近日宣布对其聊天机器人 ChatGPT 进行了一次重要更新,核心目标是全面提升未成年人用户的安全性与使用体验。此次更新引入了四项全新的原则,专门面向 18 岁以下的用户,旨在确保青少年在使用 ChatGPT 时,能够获得更加审慎、可靠且富有保护意识的互动支持。

OpenAI 表示,更新后的模型规范将“青少年安全优先”作为首要原则。这意味着,在与未成年用户的对话中,即便用户表达出对思想自由、情绪宣泄或敏感议题的强烈需求,ChatGPT 也会优先引导他们选择更为安全、稳妥的路径,而非一味迎合其表达。与此同时,系统还将主动鼓励青少年发展现实世界中的人际关系,倡导他们与家人、朋友或专业人士进行面对面的交流,并在对话中设定清晰、可理解的互动边界。

在沟通方式上,ChatGPT 也进行了针对性调整。模型将以更加尊重、温和且富有同理心的态度回应未成年用户,避免说教式或居高临下的表达。OpenAI 强调,ChatGPT 不会简单地将青少年视为“缩小版的成年人”,而是会明确表明,其交互方式建立在对青少年心理发展阶段的理解与关怀之上。

此次更新的推出,也与一对夫妇于今年 8 月对 OpenAI 提起的诉讼背景密切相关。该诉讼指控 ChatGPT 在其儿子的自杀事件中产生了负面影响。原告提供的部分聊天记录显示,ChatGPT 虽然多次建议其儿子拨打求助热线或向他人倾诉,但在个别敏感话题上仍给出了不恰当的回应。对此,OpenAI 公开回应称,其掌握的完整聊天记录显示,ChatGPT 与该悲剧事件之间不存在直接因果关系,并且记录中清楚表明,系统曾发出超过 100 次明确的求助与安全提醒。

OpenAI 表示,通过此次模型规范的更新,希望在技术层面进一步降低青少年使用 AI 产品的潜在风险,强化对心理健康议题的防护能力,防止类似悲剧再次发生。同时,这也反映出 OpenAI 在推动人工智能发展的过程中,正不断加大对用户安全、伦理责任和社会影响的重视力度。

划重点:

🌟 OpenAI 更新 ChatGPT,全面加强未成年人使用安全。

👶 新增四项原则,强调安全优先与正确引导。

🤝 鼓励青少年建立线下人际关系,关注心理健康。

📞 回应相关诉讼,OpenAI 强调不存在因果关系,并已多次发出求助提醒。

相关资讯

OpenAI低调更新GPT4o模型,多项能力反超DeepSeek

近日,OpenAI 对其 ChatGPT 的 GPT4o 模型进行了更新,这一消息由 OpenAI 的首席执行官 Sam Altman 在社交平台 X 上透露。 Altman 表示,此次更新是在上个周末进行的,旨在进一步提升用户的使用体验。 他强调,新版本的模型在使用过程中表现出色,给用户带来了更为顺畅的体验。
2/18/2025 10:18:00 AM
AI在线

自有歪果仁为DeepSeek「辩经」:揭穿围绕DeepSeek的谣言

围绕 DeepSeek 的谣言实在太多了。 面对 DeepSeek R1 这个似乎「一夜之间」出现的先进大模型,全世界已经陷入了没日没夜的大讨论。 从它的模型能力是否真的先进,到是不是真的只用了 550W 进行训练,再到神秘的研究团队,每个角度都是话题。
2/5/2025 2:37:00 PM
机器之心

程序员购买OGOpenAI.com域名转向DeepSeek

最近,一名软件工程师以 “不到一顿 Chipotle 餐的价格” 购买了 OGOpenAI.com 域名,并将其重定向至中国人工智能实验室 DeepSeek 的网站。 该实验室在开源 AI 领域崭露头角,吸引了广泛的关注。 据软件工程师阿纳奈・阿罗拉(Ananay Arora)向《TechCrunch》透露,他的初衷是为了支持 DeepSeek,因为该实验室最近推出了一款名为 DeepSeek-R1的开放版本模型,声称在某些基准测试中表现优于 OpenAI 的 o1。
1/23/2025 4:32:00 PM
AI在线
testab