理论

AI 大脑如何被 “套路”?— 揭秘大模型提示词攻防

在人工智能技术爆发式发展的当下，大模型（Large Language Models, 以下简称LLM）凭借其强大的自然语言处理能力，广泛渗透于智能助手、内容创作、代码生成等诸多关键领域，深度重塑着人们的生活与工作范式。然而，随着 LLM 应用场景的持续拓展与深化，一系列严峻的安全挑战接踵而至，其中提示词攻击已逐渐演变为威胁人工智能系统安全的核心隐患，亟待深入剖析与应对。一、提示词攻击定义与影响提示词攻击是指攻击者精心构思并输入恶意构造的文本内容，意图干扰和操纵LLM的内部运行逻辑，使其偏离既定的正常行为模式。

5/29/2025 10:32:32 AM

大模型应用防火墙

模型吞噬代码，Agent重构世界：当AI Agent与模型协同进化

大家好，我是肆〇柒。 AI 圈的进化速度之快，已是不争的事实。去年，MCP（模型上下文协议）发布，随后 AI Coding 赛道愈发热闹，Cursor、Cline、Devin、MGX 等产品层出不穷。

5/29/2025 9:57:38 AM

肆零柒

刚刚，新版DeepSeek-R1正式开源！直逼o3编程强到离谱，一手实测来了

就在今天凌晨，新版DeepSeek-R1正式开源了！ DeepSeek-R1-0528模型权重已上传到HuggingFace，不过模型卡暂未更新。项目地址：，DeepSeek-R1完成了超进化，编码能力强到离谱，而且思考时间更长了。

5/29/2025 9:04:51 AM

一文读懂： AI 智能体的架构原则、三高架构、存储架构的核心方案

一、为啥 AI 架构设计这么关键？如今，AI 应用那可是雨后春笋般地冒出来。 ‘从 ChatGPT 、到AI智能体应用，到每天服务上千万人的智能客服，再到处理亿级数据的推荐系统，要想让这些 AI 玩意儿在实际场景里落地生根，高可用、高性能、灵活扩展的系统架构是关键。

5/29/2025 1:10:00 AM

尼恩架构团队

Meta闪电分拆AI帝国！Llama团队一劈为二：一边狂卷AGI，一边死磕OpenAI

2025 年 5 月，据 Axios 报道，Meta 正式将其 AI 部门拆分为两个独立方向：面向消费者的AI产品团队，以及追求通用人工智能（AGI）的“AGI Foundations”基础组。过去几年，Meta在AI领域的策略始终被认为偏“研究导向”：大模型Llama的发布频率、论文产出数量、开源社区活跃度，都表现出一种“与学界赛跑”的姿态。但与此同时，用户端产品的AI体验却始终模糊——Llama虽强，却“藏”在模型库里，普通用户几乎无感。

5/28/2025 6:41:37 PM

多模态大模型不会画辅助线？最新评估得分：o3仅25.8%，远低于人类82.3%

多模态时代应如何评估模型的视觉输出能力？来自清华大学、腾讯混元、斯坦福大学、卡耐基梅隆大学等顶尖机构的研究团队联合发布了RBench-V：一款针对大模型的视觉推理能力的新型基准测试。过去的评估基准主要集中于评估多模态输入和纯文本推理过程。

5/28/2025 11:43:48 AM

告别卡脖子，华为黑科技破局！昇腾推理加速1.6倍打破LLM降智魔咒

LLM发展到今天，下一步该往哪个方向探索？显然，如今最明显的一个问题就是，大模型的参数规模还是太大了——DeepSeek-V3的参数为671B，Llama 3.1系列最大为405B，GPT-4o为200B，Claude 3.5 Sonnet为175B。参数规模在不断增长，高昂的计算成本和推理延迟，该怎么破？

5/28/2025 8:51:00 AM

「DeepSeek 技术解析」：LLM 训练中的强化学习算法

我们将深入探讨 DeepSeek 模型训练策略中的关键创新之一[1, 2]：群组相对策略优化（Grouped Relative Policy Optimization，GRPO）[3]。为确保本文自成体系并阐明 GRPO 的理论基础，我们将首先介绍强化学习的基础概念，重点解析强化学习（RL）及基于人类反馈的强化学习（RLHF）在 LLM 训练中的核心作用。接着我们将探讨不同的强化学习范式，包括基于价值的强化学习、基于策略的强化学习和 Actor-Critic 强化学习，回顾经典算法如置信域策略优化（TRPO）和近端策略优化（PPO），最后解析 GRPO 带来的优化创新。

5/28/2025 2:25:00 AM

Baihai IDP

知识图谱、大模型与幻觉：自然语言处理的视角

摘要大型语言模型（LLMs）已经彻底改变了基于自然语言处理（NLP）的应用，包括自动化文本生成、问答系统、聊天机器人等。然而，它们面临一个重大挑战：产生幻觉，即模型生成听起来合理但实际上错误的内容。这削弱了信任，并限制了LLMs在不同领域的适用性。

5/28/2025 1:50:00 AM

KGGPT

DeepSeek-V3：硬件与模型的完美统协，奏响 AI 高效新乐章

大家好，我是肆〇柒。 DeepSeek-V3 曾经一度备受全球瞩目，从 V3 发布至今，这一开源模型已经在众多企业场景中成功落地。然而，在落地过程中，由于其复杂的工程细节，相信许多团队也遇到了不少挑战。

5/28/2025 1:20:00 AM

肆零柒

基于大模型的智能问答系统

在构建基于大模型的智能问答系统时，LangChain 提供了一个强大的框架，支持各种模块来帮助开发者构建更复杂、更智能的语言处理应用。以下是构建此类系统的一些关键组件和步骤。模型接入：使用 LangChain 支持的模型，通过 API 接入外部模型，或利用 api-for-open-llm 框架调用本地llm模型。

5/28/2025 1:00:00 AM

耗子

OpenAI o3模型无视指令拒绝关机，AI会失控吗？

近日，OpenAI最新的大语言模型o3展示了一种令人担忧的行为：主动绕过并破坏了自身的关闭机制，即使在明确指示允许自身被关闭的情况下也是如此。这标志着首次记录到AI系统无视明确人类关闭指令的案例。这一发现不仅挑战了我们对 AI 可控性的认知，更为人工智能的未来发展敲响了警钟。

5/28/2025 12:00:00 AM

两岁的Llama，最初的14位作者已跑了11个！Mistral成最大赢家

Meta 开源 Llama 模型家族帮助该公司制定了 AI 战略，某种程度上也改变了全世界的大模型格局。然而，令人意想不到的是，短短几年，Llama 的初创者们大多已经转投他处。在 2023 年发表的那篇具有里程碑意义的论文《 LLaMA: Open and Efficient Foundation Language Models 》中，Llama 被推向世界，当时论文共有 14 位作者。

5/27/2025 3:37:46 PM

舍弃自回归！国内团队打造纯扩散多模态大模型LLaDA-V，理解任务新SOTA

本文介绍的工作由中国人民大学高瓴人工智能学院李崇轩、文继荣教授团队与蚂蚁集团共同完成。游泽彬和聂燊是中国人民大学高瓴人工智能学院的博士生，导师为李崇轩副教授。该研究基于团队前期发布的、首个性能比肩 LLaMA 3 的 8B 扩散大语言模型 LLaDA。

5/27/2025 3:35:02 PM

Llama 论文作者“出逃”，14人团队仅剩3人，法国独角兽 Mistral 成最大赢家

他们大多去向了 Mistral，这家总部位于巴黎的 AI 初创公司，正在用“开源速度”反攻 Meta 自己开启的战场。 Llama 曾是 Meta 最具野心的 AI 作品：在 ChatGPT 和 PaLM 占据主流话语权的 2023 年，Meta 用一篇重量级论文和一组开放权重的大语言模型，意外地把开源阵营推上主舞台。而那时，Meta 的 AI 科研团队 FAIR（Fundamental AI Research）也正处于高光时刻。

5/27/2025 3:16:38 PM