AIGC宇宙 AIGC宇宙

LLM

LLM 协作革命：Group Think 如何重塑推理边界

LLM 协作革命：Group Think 如何重塑推理边界
大家好，我是肆〇柒。 今天和大家聊聊 Group Think。 顾名思义，它通过让单个 LLM 模拟多个并行推理智能体，并以 token 级别的细粒度协作，提出了推理协作的新范式。
6/6/2025 8:57:42 AM
肆零柒
微软再放LLM量化大招！原生4bit量化，成本暴减，性能几乎0损失

微软再放LLM量化大招！原生4bit量化，成本暴减，性能几乎0损失
最近，微软亚研院的研究团队开源了原生1bit精度的大模型：BitNet b1.58 2B4T。 还没过几天，原班人马带着第二代BitNet v2来了！ 这次性能几乎0损失，但占用内存和计算成本显著降低！
6/3/2025 8:49:00 AM
告别卡脖子，华为黑科技破局！昇腾推理加速1.6倍打破LLM降智魔咒

告别卡脖子，华为黑科技破局！昇腾推理加速1.6倍打破LLM降智魔咒
LLM发展到今天，下一步该往哪个方向探索？ 显然，如今最明显的一个问题就是，大模型的参数规模还是太大了——DeepSeek-V3的参数为671B，Llama 3.1系列最大为405B，GPT-4o为200B，Claude 3.5 Sonnet为175B。 参数规模在不断增长，高昂的计算成本和推理延迟，该怎么破？
5/28/2025 8:51:00 AM
「DeepSeek 技术解析」：LLM 训练中的强化学习算法

「DeepSeek 技术解析」：LLM 训练中的强化学习算法
我们将深入探讨 DeepSeek 模型训练策略中的关键创新之一[1, 2]：群组相对策略优化（Grouped Relative Policy Optimization，GRPO）[3]。 为确保本文自成体系并阐明 GRPO 的理论基础，我们将首先介绍强化学习的基础概念，重点解析强化学习（RL）及基于人类反馈的强化学习（RLHF）在 LLM 训练中的核心作用。 接着我们将探讨不同的强化学习范式，包括基于价值的强化学习、基于策略的强化学习和 Actor-Critic 强化学习，回顾经典算法如置信域策略优化（TRPO）和近端策略优化（PPO），最后解析 GRPO 带来的优化创新。
5/28/2025 2:25:00 AM
Baihai IDP
LLM能理解数学吗？最新研究揭露大模型数学推理的致命缺陷

LLM能理解数学吗？最新研究揭露大模型数学推理的致命缺陷
你有没有想过，那些在聊天中侃侃而谈的AI大模型，遇到数学题时会是什么样子？ 就像一个平时很会聊天的朋友，突然被问到复杂的数学问题时支支吾吾的样子。 最近有研究团队专门研究了这个问题，结果发现了一些让人意外的真相。
5/27/2025 1:27:00 AM
无影寺
解锁 LLM 新高度！一文深度解读 Qwen3 大模型​

解锁 LLM 新高度！一文深度解读 Qwen3 大模型​
1、模型架构Qwen3 系列涵盖 6 种密集型模型和 2 种 MoE 模型，参数规模从 0.6 亿到 2350 亿不等，满足不同下游应用需求。 旗舰模型 Qwen3-235B-A22B 作为 MoE 模型，总参数量达 2350 亿，每 token 激活参数量为 220 亿，在性能与效率间取得平衡。 密集型模型Qwen3 的密集型模型架构与 Qwen2.5 类似，采用 Grouped Query Attention（GQA）和 QK-Norm 改进注意力机制，使用 SwiGLU 作为激活函数，搭配 Rotary Positional Embeddings（RoPE）进行位置编码，采用 RMSNorm 并预归一化。
5/21/2025 9:04:38 AM
Goldma
研究：AI 聊天机器人在数据总结能力上愈加糟糕，关键细节常被遗漏

研究：AI 聊天机器人在数据总结能力上愈加糟糕，关键细节常被遗漏
随着人工智能技术的迅猛发展，各大 AI 创业公司不断宣称其产品将工作方式和知识获取的方式。 然而，最近一项发表在《皇家学会》上的研究却揭示了新一代 AI 模型在总结文本时存在严重问题，令人担忧。 研究显示，新款 AI 聊天机器人在提供信息时，有高达73% 的概率会遗漏关键信息。
5/19/2025 10:01:05 AM
AI在线
看不懂新开源的DS-Prover V2版本？解读来了，攻克像人类一样数学证明，达到SoTA水平，不知道如何测？样题来了

看不懂新开源的DS-Prover V2版本？解读来了，攻克像人类一样数学证明，达到SoTA水平，不知道如何测？样题来了
五一凌晨，DeepSeek终于更新了新开源的 DeepSeek-Prover V2的自述文件。 速览一下： - 解决近 90% 的 miniF2F 问题（88.9%） - 显著提高 PutnamBench 上的 SoTA 性能 - 在正式版本中对 AIME 24 和 25 问题取得了惊艳的通过率点评：亮点上来看，DeepSeek-Prove V2模型在死磕LLM在推理数学问题上能给出答案但却给不出严格正确的推理步骤的问题。 而且在一中先进模型中达到了SoTA的水平，图四是前十榜单。
5/1/2025 8:33:20 AM
大模型向量去重的N种解决方案！

大模型向量去重的N种解决方案！
简单来说，“向量”Vector 是大模型（LLM）在搜索时使用的一种“技术手段”，通过向量比对，大模型能找出问题的相关答案，并且进行智能回答。 向量简介Vector 是向量或矢量的意思，向量是数学里的概念，而矢量是物理里的概念，但二者描述的是同一件事。 “定义：向量是用于表示具有大小和方向的量。
4/24/2025 11:09:13 AM
磊哥
谷歌的“双子星”，正在围剿一众大模型

谷歌的“双子星”，正在围剿一众大模型
编辑 | 云昭继昨天凌晨OpenAI推出满血o3、o4-mini之后，没想到谷歌迈着“LLM王者”的步伐给出了自家的模型SOTA研究Gemini2.5 Flash。 如果说o3主打的是“干实事”，那么谷歌这次的新发布则是告诉我们：什么是“成本可控”的极致性价比。 这次的发布以后立马引来一众开发者的讨论，不过这次不是负面的，而是全面的好评。
4/18/2025 3:53:03 PM
云昭
"是我创造了第一个LLM"！Kaggle前首席科学家一句话引发AI学术圈考古行动

"是我创造了第一个LLM"！Kaggle前首席科学家一句话引发AI学术圈考古行动
论如何在技术圈争论中一句话噎到对方：哥们，是我创造了第一个大语言模型。 发言者Jeremy Howard为澳大利亚昆士兰大学名誉教授、曾任Kaggle创始总裁和首席科学家，现answer.ai与fast.ai创始人，。 事情的起因是有人质疑他最近的项目llms.txt在帮助大模型爬取互联网信息上并没太大作用，从而引发了这段争论，迅速引起众人围观。
4/9/2025 9:23:00 AM
量子位
大模型部署工具 Ollama 使用指南：技巧与问题解决全攻略

大模型部署工具 Ollama 使用指南：技巧与问题解决全攻略
一、Ollama 是什么？ Ollama 是一个开源的本地大模型部署工具，旨在简化大型语言模型（LLM）的运行和管理。 通过简单命令，用户可以在消费级设备上快速启动和运行开源模型（如 Llama、DeepSeek 等），无需复杂配置。
4/8/2025 3:22:00 AM
wayn
LLM「想太多」有救了！高效推理让大模型思考过程更精简

LLM「想太多」有救了！高效推理让大模型思考过程更精简
LLM的推理能力显著增强，然而，这个「超级大脑」也有自己的烦恼。 有时候回答会绕好大一个圈子，推理过程冗长又复杂，虽能得出正确答案，但耗费了不少时间和计算资源。 比如问它「2加3等于多少」，它可能会从数字的概念、加法原理开始，洋洋洒洒说上一大通，这在实际应用中可太影响效率啦。
4/7/2025 9:23:00 AM
新智元
超实用！Prompt程序员使用指南，大模型各角色代码实战案例

超实用！Prompt程序员使用指南，大模型各角色代码实战案例
提示词（Prompt）是输入给大模型（LLM）的文本指令，用于明确地告诉大模型你想要解决的问题或完成的任务，也是大语言模型理解用户需求并生成准确答案的基础。 因此 prompt 使用的好坏，直接决定了大模型生成结果的质量（是否符合预期）。 图片Prompt 基本使用为了让大模型生成更符合预期的结果，我们在使用 Prompt 时，可以使用以下模版。
4/3/2025 12:00:00 AM
磊哥
大模型应用的能力分级

大模型应用的能力分级
对大模型应用的能力分级就像给学生打分一样，能让我们更清楚它的本事有多大。 能力分级能帮我们设定目标，知道AI现在能干什么，未来还要学什么。 有了统一的分级方式，大家就能公平比较不同AI的水平，推动技术进步。
4/2/2025 1:25:00 AM
曹洪伟
基于DeepSeek推理的文本聚类

基于DeepSeek推理的文本聚类
译者 | 李睿审校 | 重楼开发人员需要开发和理解一种新的文本聚类方法，并使用DeepSeek推理模型解释推理结果。 本文将探索大型语言模型（LLM）中的推理领域，并介绍DeepSeek这款优秀工具，它能帮助人们解释推论结果，构建能让终端用户更加信赖的机器学习系统。 在默认情况下，机器学习模型是一种黑盒，不会为决策提供开箱即用的解释（XAI）。
3/31/2025 8:28:24 AM
李睿
星辰与代码：DeepSeek的发展历程

星辰与代码：DeepSeek的发展历程
技术突破阶段2024 年，DeepSeek 强势开启生态扩张与技术爆发的新纪元，成为全球 AI 领域瞩目的焦点。 年初 1 月，DeepSeek 便以 DeepSeek-MoE 震撼登场，创新性架构设计以仅 60% 的计算量损耗，成功超越 Llama 2-7B 性能，为后续技术突破奠定坚实基础，在模型效率优化上迈出关键一步。 紧接着 2 月，DeepSeekMath 在 MATH 基准测试中表现惊艳，成绩飙升至 51.7%，无限逼近 GPT-4 水平，数学推理能力实现质的飞跃，极大提升了模型在复杂数学问题求解上的可靠性与精准度。
3/27/2025 3:50:00 AM
小牛呼噜噜
人工智能代理不是玩具，而是工人

人工智能代理不是玩具，而是工人
为什么必须像评估劳动力一样评估LLM代理，而不仅仅是评估软件。 如果组织仅通过代码行数或聊天完成度等指标来衡量 AI 代理，则可能会低估其最具变革性的价值。 在许多方面，AI 代理更像员工，而不是传统的软件程序：它们可以学习、适应，甚至与人类团队合作。
3/13/2025 1:29:32 PM
佚名