H-CoT

OpenAI破大防，拒绝率从98%骤降2%！陈怡然团队提出全新思维链劫持攻击

随着通向通用人工智能（AGI）的进展，大语言模型正进化出复杂推理能力，衍生出所谓「大型推理模型」（Large Reasoning Models, LRMs）。 OpenAI 的o系列模型凭借接近人类的推理水准刷新了诸多基准，另一边新的模型DeepSeek-R1也以更低成本实现了与o系列相当的性能。这些模型不仅能逐步推理复杂问题，还开始将思维链（Chain-of-Thought, CoT）用于安全审查，在回答用户请求前通过内部推理判断内容是否违规，这种思路其实为平衡实用性和安全性提供了一个很有前景方向。

3/28/2025 11:59:10 AM

新智元

资讯热榜

ChatGPT或将引入广告！OpenAI高管首度松口，用户破7亿仍难盈利扎克伯格看OpenAI直播挖人，北大校友孙之清加入Meta Nvidia 投资 5 亿美元，Cohere 公司估值达 68 亿美元马斯克手撕OpenAI，奥特曼反击：AI巨头互曝老底，苹果被拖下水破天荒！OpenAI、Cursor多位开发大牛联手曝出GPT5提示词指南！晒官方系统提示词优化秘籍，最大化编程性能，工作流更可控 IDC：未来五年，中国生成式 AI 相关硬件支出将激增至 330 亿元 OpenAI华人露头就被小扎挖！95后北大校友1个月前上直播，今天已是Meta人 OpenAI 开源模型被 Meta 研究员“逆改”！只动0.3%参数，gpt-oss-20B 解锁无约束基座

标签云

AI 人工智能 OpenAI AIGC 模型 ChatGPT DeepSeek AI绘画谷歌机器人数据大模型 Midjourney 开源智能用户 Meta 微软 GPT 学习技术图像 Gemini 马斯克 AI创作智能体论文英伟达 Anthropic 代码训练算法 Stable Diffusion 芯片蛋白质 LLM 开发者腾讯 AI新词生成式 Claude 苹果 Agent 神经网络 AI for Science 3D 机器学习研究生成 xAI 人形机器人 AI视频计算 Sora GPU AI设计百度华为工具大语言模型搜索具身智能场景 RAG 字节跳动大型语言模型深度学习预测伟达视觉 Transformer 视频生成 AGI 架构神器推荐亚马逊 Copilot DeepMind 应用安全