AIGC宇宙 AIGC宇宙

大模型

前端 x AI：从了解提示工程、RAG和微调开始

前端 x AI：从了解提示工程、RAG和微调开始
在AI工程应用中有三种应用范式，他们分别是提示工程（Prompt Engineering）、RAG（Retrieve Augmented Generation）、微调（Fine Tuning），那么在工程应用中我们该如何选择呢？ 在具体介绍这三种范式之前，首先我们需要了解什么是大模型。 大模型通常指的是拥有大量参数和复杂结构的深度学习模型，它经过海量的多样化的数据预训练之后，具备了非常多的能力，包括编码、数学、金融、教育和法律等行业的能力。
5/22/2025 1:00:00 AM
赖祥燃
告别“单打独斗”！AI 协作新范式 MoA，如何集结大模型“梦之队”？

告别“单打独斗”！AI 协作新范式 MoA，如何集结大模型“梦之队”？
大模型浪潮下，你的 AI 应用遇到瓶颈了吗？ 当 GPT、Claude、文心一言等各类强大模型如繁星般涌现，我们惊喜于它们令人惊叹的能力。 然而，在实际落地中，我们常常发现，即使是最顶尖的单一模型，也难以完美应对所有复杂场景的需求。
5/21/2025 4:27:00 PM
贝塔街的万事屋
面壁智能获新一轮数亿元融资，引领端侧大模型高效发展与应用普及

面壁智能获新一轮数亿元融资，引领端侧大模型高效发展与应用普及
近日，面壁智能完成新一轮数亿元融资，本轮融资由洪泰基金、国中资本、清控金信和茅台基金联合投资。 本轮融资的完成，将进一步为面壁智能构筑高效大模型技术、产品壁垒、加速行业赋能与生态拓展奠定坚实基础，协同产业上下游推动「端侧大脑」在千行百业规模化应用。 2025 年伊始，全球人工智能竞赛进入白热化，以「高效、低耗」为代表的创新路径正在引领全球 AI 变革。
5/21/2025 4:18:00 PM
徐咪
DeepSeek发布大模型训练端到端论文，展示卓越工程深度

DeepSeek发布大模型训练端到端论文，展示卓越工程深度
近日，DeepSeek发布了一篇关于大模型训练的最佳端到端技术论文，引发业界广泛关注。 该论文全面阐述了DeepSeek在大模型研发中的技术突破，涵盖软件、硬件及混合优化方案，展现了其令人惊叹的工程深度。 在**软件**层面，论文详细介绍了多头潜在注意力机制（MLA），显著降低推理过程中的内存占用;FP8混合精度训练通过低精度计算提升效率，同时保证数值稳定性;DeepEP通信库优化了专家并行(EP)通信，支持FP8低精度操作，加速MoE模型训练与推理;LogFMT对数浮点格式则通过均匀化激活分布，进一步优化计算效率。
5/21/2025 11:01:05 AM
AI在线
大模型全面爆发，所有榜一都是Gemini！谷歌一夜站到了台前

大模型全面爆发，所有榜一都是Gemini！谷歌一夜站到了台前
北京时间今天凌晨 1 点，今年的 Google I/O 2025 开发者大会正式开启。 谷歌最近的大模型技术风头正劲，今年的这场「科技春晚」吸引了全球关注的目光。 没有意外，今年的核心主题自然是 AI。
5/21/2025 9:40:11 AM
机器之心
解锁 LLM 新高度！一文深度解读 Qwen3 大模型​

解锁 LLM 新高度！一文深度解读 Qwen3 大模型​
1、模型架构Qwen3 系列涵盖 6 种密集型模型和 2 种 MoE 模型，参数规模从 0.6 亿到 2350 亿不等，满足不同下游应用需求。 旗舰模型 Qwen3-235B-A22B 作为 MoE 模型，总参数量达 2350 亿，每 token 激活参数量为 220 亿，在性能与效率间取得平衡。 密集型模型Qwen3 的密集型模型架构与 Qwen2.5 类似，采用 Grouped Query Attention（GQA）和 QK-Norm 改进注意力机制，使用 SwiGLU 作为激活函数，搭配 Rotary Positional Embeddings（RoPE）进行位置编码，采用 RMSNorm 并预归一化。
5/21/2025 9:04:38 AM
Goldma
百度文心 X1 Turbo 大放异彩，斩获信通院最高评级！

百度文心 X1 Turbo 大放异彩，斩获信通院最高评级！
在5月20日举行的百度 AI Day 上，中国信息通信研究院（信通院）公布了最新的大模型推理能力评估结果，令众多科技爱好者为之振奋。 百度的文心大模型 X1Turbo 成为国内首个获得 “4 级” 最高评级的大模型，这一成就让人刮目相看。 此次评估共涵盖24项能力，X1Turbo 在其中表现不凡，16项能力满分达到5分，展示了其强大的技术实力。
5/21/2025 9:01:06 AM
AI在线
面壁智能获新一轮数亿元融资 推动「端侧大脑」规模化应用

面壁智能获新一轮数亿元融资 推动「端侧大脑」规模化应用
面壁智能宣布完成新一轮数亿元融资，本轮融资由洪泰基金、国中资本、清控金信和茅台基金联合投资。 这一融资的完成，将为面壁智能在高效大模型技术、产品壁垒、行业赋能与生态拓展方面奠定坚实基础，推动“端侧大脑”在千行百业的规模化应用。 面壁智能是一家专注于打造高效大模型的公司，以“高效”为第一性原理，致力于在同等参数下实现更高的性能、更低的成本、更低的功耗和更快的速度。
5/21/2025 9:01:06 AM
AI在线
RAG与微调，大语言模型的“大脑升级”，该选哪条路？（小白科普）

RAG与微调，大语言模型的“大脑升级”，该选哪条路？（小白科普）
最近在做项目时，我发现有些甲方对RAG和模型微调分区的不太清楚，明明大语言模型（LLM）加挂RAG就可以解决的问题，却坚持要微调，但是具体沟通后发现，其实只是不太了解二者的实际用途。 其实，Retrieval-Augmented Generation (RAG) 和微调 (Fine-Tuning) 是两种最常用的LLM的“大脑升级”技术，虽然它们都能提升模型的性能，但工作原理和适用场景却大相径庭。 今天，我就来深入聊聊这两种技术，弄清楚在不同情况下，到底该选 RAG 还是微调。
5/21/2025 3:00:00 AM
贝塔街的万事屋
蚂蚁武威：下一代「推理」模型范式大猜想

蚂蚁武威：下一代「推理」模型范式大猜想
R1 之后，长思维链成为研究下一代基础模型中 “推理”（Reasoning）能力的热门方向。 一方面，R1 证明了大模型深度思考的可行性；与此同时，尽管 R1 展现出了强大的性能，大模型推理的序幕实则才刚刚拉开。 此外，R1 在海外掀桌也给国内人工智能的研究带来一个显著影响，即：越来越多的研究者敢于站在更高视角思考，提出前瞻引领的技术思想。
5/21/2025 12:10:00 AM
陈彩娴
60+头部企业关于AI的思想碰撞，都在这场大会里

60+头部企业关于AI的思想碰撞，都在这场大会里
最近由150位全球顶尖AI创始人参与的红杉资本AI峰会刷爆AI产业圈，关于大热的智能体经济、大模型、机器人商业化...来自OpenAI、英伟达、谷歌等公司的AI大佬们给出了他们的洞察——AI不再卖工具，而是卖收益。 它正在从“技术产品”进化为一种新的经济运行方式。 这一观点通俗来讲，就是客户不会因为你的AI产品功能好不好来买单，他们只为能帮他挣钱的产品买单。
5/20/2025 3:36:54 PM
火山引擎推出开源 MCP Servers，助力大模型应用开发

火山引擎推出开源 MCP Servers，助力大模型应用开发
近日，火山引擎宣布推出一款名为 MCP Servers 的大模型生态平台，并将其开源。 这一举措使得企业可以轻松将自研工具按照 MCP 协议进行封装并上传共享，形成一个良性的 “用生态” 与 “建生态” 的循环。 火山引擎MCP Servers 可被视为一个 “大模型工具超市”，集成了大量高质量的 MCP 协议适配工具，涵盖了搜索、数据库和业务系统 API 等多个高频场景。
5/20/2025 12:00:55 PM
AI在线
火山引擎发布大模型生态广场 MCP Servers

火山引擎发布大模型生态广场 MCP Servers
火山引擎正式发布了其大模型生态广场——MCP Servers，这一创新平台的推出标志着AI开发进入了一个全新的模块化组装时代。 通过“MCP Market（工具广场） 火山方舟(大模型服务) Trae(应用开发环境)”的深度协同，MCP Servers实现了从工具调用、模型推理到应用部署的全链路开发闭环，极大地简化了开发流程，让开发者能够以更高效的方式构建AI应用。 MCP Servers被形象地称为“大模型工具超市”，它集成了众多高质量的MCP协议适配工具，覆盖了搜索、数据库、业务系统API等高频应用场景。
5/20/2025 9:00:56 AM
AI在线
深度解析大模型技术演进脉络：RAG、Agent与多模态的实战经验与未来图景

深度解析大模型技术演进脉络：RAG、Agent与多模态的实战经验与未来图景
作者 | jaymie大模型作为产业变革的核心引擎。 通过RAG、Agent与多模态技术正在重塑AI与现实的交互边界。 三者协同演进，不仅攻克了数据时效性、专业适配等核心挑战，更推动行业从效率革新迈向业务重构。
5/20/2025 8:30:00 AM
腾讯技术工程
Transformer 模型结构详解及代码实现!

Transformer 模型结构详解及代码实现!
一、Transformer简要发展史以下是Transformer模型发展历史中的关键节点：Transformer架构于2017年6月推出。 原本研究的重点是翻译任务。 随后推出了几个有影响力的模型，包括：时间模型简要说明2017 年 6 月「Transformer」Google 首次提出基于 Attention 的模型，用于机器翻译任务2018 年 6 月「GPT」第一个使用 Transformer 解码器模块进行预训练的语言模型，适用于多种 NLP 任务2018 年 10 月「BERT」使用 Transformer 编码器模块，通过掩码语言建模生成更强大的句子表示2019 年 2 月「GPT-2」更大更强的 GPT 版本，由于潜在风险未立即发布，具备出色的文本生成能力2019 年 10 月「DistilBERT」BERT 的轻量化版本，在保留 97% 性能的同时，速度更快、内存占用更低2019 年 10 月「BART、T5」使用完整的 Encoder-Decoder 架构，在各种 NLP 任务中表现优异2020 年 5 月「GPT-3」超大规模语言模型，支持“零样本学习”，无需微调即可完成新任务这个列表并不全面，只是为了突出一些不同类型的 Transformer 模型。
5/20/2025 8:15:00 AM
郭小喵玩AI
使用 Unsloth 高效微调 Qwen3，国产大模型的轻量化和部署实践

使用 Unsloth 高效微调 Qwen3，国产大模型的轻量化和部署实践
近年来，大语言模型在自然语言处理任务中取得了显著进展。 然而，对于开发者和中小型企业，模型微调的资源需求仍是一个挑战。 本文将讨论如何利用 Unsloth 框架，在有限的硬件资源下完成 Qwen3-14B 的高效微调，并支持后续部署。
5/19/2025 9:32:06 AM
口袋数据
向量存储瘦身术：智能问答系统的空间优化革命

向量存储瘦身术：智能问答系统的空间优化革命
在AI智能问答系统中，向量数据库的存储压力越来越大。 随着知识库规模扩大，如何高效压缩存储空间正在被大家所关注。 本文将介绍一种方案，实现节省知识库占用空间，避免数据量无限制的增长。
5/16/2025 10:01:31 AM
贝塔街的万事屋
高考AI志愿规划师之争：靠谱AI指责优志愿虚假宣传

高考AI志愿规划师之争：靠谱AI指责优志愿虚假宣传
靠谱AI近日发布声明，指责竞争对手优志愿的升学规划大模型存在虚假宣传行为。 这场 “高考 AI 志愿规划师” 的争夺战引起了广泛关注。 据靠谱 AI 透露，自2024年4月28日以来，优志愿通过其官方公众号及 “优家 SaaS 平台” 声称其大模型是 “全行业首个通过工信部备案” 的升学规划工具，并自称为 “国内首发”。
5/15/2025 4:00:55 PM
AI在线