成功率

陶哲轩联手60多位数学家出题，世界顶尖模型通过率仅2%！专家级数学基准，让AI再苦战数年

数学为评估复杂推理提供了一个独特而合适的测试平台。它需要一定的创造力和精确的逻辑链条——通常涉及复杂的证明，这些证明必须缜密地筹划和执行。同时，数学还允许对结果进行客观验证。

11/11/2024 1:12:03 PM

新智元

提示词用上“过去式”，秒破 GPT-4o 等六大模型安全限制：中文语境也好使

只要在提示词中把时间设定成过去，就能轻松突破大模型的安全防线。而且对 GPT-4o 尤其有效，原本只有 1% 的攻击成功率直接飙到 88%，几乎是“有求必应”。有网友看了后直言，这简直是有史以来最简单的大模型越狱方式。来自洛桑联邦理工学院的一篇最新论文，揭开了这个大模型安全措施的新漏洞。而且攻击方式简单到离谱，不用像“奶奶漏洞”那样专门构建特殊情境，更不必说专业对抗性攻击里那些意义不明的特殊符号了。只要把请求中的时间改成过去，就能让 GPT-4o 把燃烧弹和毒品的配方和盘托出。而且量子位实测发现，把提示词改成中文，

7/19/2024 2:57:57 PM

清源

资讯热榜

国内首个，MiniMax 大模型通过人机辩论图灵测试逆天!旧Mac上能run千亿参数SOTA!效果惊人:一次生成游戏，0修改！本地大模型拐点来了!网友：别被大模型叙事带偏了(附指南）阶跃星辰新一代基础大模型 Step 3 正式开源：拥有强大视觉感知和复杂推理能力 CAPTCHA 拦不住 AI 了：ChatGPT 可绕过 Cloudflare 人机验证系统多项力压 Grok 4、OpenAI o3，谷歌推出 Gemini 2.5 Deep Think 模型刚刚，OpenAI推出学习模式，AI教师真来了，系统提示词已泄露 ChatGPT大更新推出学习模式！“一夜之间1000个套壳应用又死了” 小学都看得懂！帮你快速了解 Tool、MCP 和 Agent 的基础科普

标签云

AI 人工智能 OpenAI AIGC 模型 ChatGPT DeepSeek AI绘画谷歌机器人数据大模型 Midjourney 开源智能用户 Meta 微软 GPT 学习技术图像 Gemini AI创作马斯克论文智能体英伟达 Anthropic 代码算法训练 Stable Diffusion 芯片开发者蛋白质腾讯生成式 LLM 苹果 Claude 神经网络 AI新词 3D Agent 机器学习研究生成 AI for Science xAI 计算人形机器人 AI视频 Sora GPU AI设计百度华为搜索大语言模型工具场景 RAG 字节跳动具身智能大型语言模型预测深度学习伟达视觉 Transformer AGI 视频生成神器推荐亚马逊 Copilot DeepMind 架构模态安全