OpenAI 近日宣布对其聊天机器人 ChatGPT 进行了一次重要更新,核心目标是全面提升未成年人用户的安全性与使用体验。此次更新引入了四项全新的原则,专门面向 18 岁以下的用户,旨在确保青少年在使用 ChatGPT 时,能够获得更加审慎、可靠且富有保护意识的互动支持。
OpenAI 表示,更新后的模型规范将“青少年安全优先”作为首要原则。这意味着,在与未成年用户的对话中,即便用户表达出对思想自由、情绪宣泄或敏感议题的强烈需求,ChatGPT 也会优先引导他们选择更为安全、稳妥的路径,而非一味迎合其表达。与此同时,系统还将主动鼓励青少年发展现实世界中的人际关系,倡导他们与家人、朋友或专业人士进行面对面的交流,并在对话中设定清晰、可理解的互动边界。
在沟通方式上,ChatGPT 也进行了针对性调整。模型将以更加尊重、温和且富有同理心的态度回应未成年用户,避免说教式或居高临下的表达。OpenAI 强调,ChatGPT 不会简单地将青少年视为“缩小版的成年人”,而是会明确表明,其交互方式建立在对青少年心理发展阶段的理解与关怀之上。
此次更新的推出,也与一对夫妇于今年 8 月对 OpenAI 提起的诉讼背景密切相关。该诉讼指控 ChatGPT 在其儿子的自杀事件中产生了负面影响。原告提供的部分聊天记录显示,ChatGPT 虽然多次建议其儿子拨打求助热线或向他人倾诉,但在个别敏感话题上仍给出了不恰当的回应。对此,OpenAI 公开回应称,其掌握的完整聊天记录显示,ChatGPT 与该悲剧事件之间不存在直接因果关系,并且记录中清楚表明,系统曾发出超过 100 次明确的求助与安全提醒。
OpenAI 表示,通过此次模型规范的更新,希望在技术层面进一步降低青少年使用 AI 产品的潜在风险,强化对心理健康议题的防护能力,防止类似悲剧再次发生。同时,这也反映出 OpenAI 在推动人工智能发展的过程中,正不断加大对用户安全、伦理责任和社会影响的重视力度。
划重点:
🌟 OpenAI 更新 ChatGPT,全面加强未成年人使用安全。
👶 新增四项原则,强调安全优先与正确引导。
🤝 鼓励青少年建立线下人际关系,关注心理健康。
📞 回应相关诉讼,OpenAI 强调不存在因果关系,并已多次发出求助提醒。