AIGC宇宙 AIGC宇宙

大模型

DeepSeek-R1技术解码：如何实现大模型推理能力的提升？

DeepSeek-R1技术解码：如何实现大模型推理能力的提升？
1月20日，幻方量化旗下AI公司深度求索(DeepSeek)发布了新一代开源大模型DeepSeek-R1。 作为一款专注于推理能力的AI大模型，DeepSeek-R1凭借着成本低、推理能力强等优势，在人工智能领域掀起了千层巨浪，引起了人们的广泛关注与讨论。 DeepSeek-R1的成功，让我们更加清晰地认识到推理能力在当下人工智能发展中的重要地位。
2/13/2025 8:51:23 AM
Yu
NLLB 与 ChatGPT 双向优化：探索翻译模型与语言模型在小语种应用的融合策略

NLLB 与 ChatGPT 双向优化：探索翻译模型与语言模型在小语种应用的融合策略
本文探讨了 NLLB 翻译模型与 ChatGPT 在小语种应用中的双向优化策略。 首先介绍了 NLLB-200 的背景、数据、分词器和模型，以及其与 LLM（Large Language Model）的异同和协同关系。 接着列举了实战与应用的案例，包括使用 ChatGPT 生成的样本微调 NLLB-200 和使用 NLLB-200 的翻译结果作为 LLM 的 prompt 等。
2/13/2025 8:44:56 AM
Huang Minghui
字节跳动豆包UltraMem架构将大模型推理成本降低83%

字节跳动豆包UltraMem架构将大模型推理成本降低83%
字节跳动豆包大模型团队今日宣布，成功研发出全新稀疏模型架构UltraMem，该架构有效解决了MoE（混合专家）模型推理时的高额访存问题，推理速度较MoE提升2-6倍，推理成本最高可降低83%。 这一突破性进展为大模型的高效推理开辟了新路径。 UltraMem架构在保证模型效果的前提下，成功解决了MoE架构推理时的访存瓶颈。
2/12/2025 2:04:00 PM
AI在线
豆包提出全新稀疏模型架构 UltraMem，推理成本较 MoE 最高可降 83%

豆包提出全新稀疏模型架构 UltraMem，推理成本较 MoE 最高可降 83%
实验结果表明，训练规模达 2000 万 value 的 UltraMem 模型，在同等计算资源下，可同时实现业界领先的推理速度和模型性能，为构建数十亿规模 value 或 expert 开辟了新路径。
2/12/2025 12:58:01 PM
清源
4090单卡跑满血版DeepSeek-R1，清华团队开源项目再破大模型推理门槛

4090单卡跑满血版DeepSeek-R1，清华团队开源项目再破大模型推理门槛
DeepSeek-R1火遍海内外，但推理服务器频频宕机，专享版按GPU小时计费的天价成本更让中小团队望而却步。 而市面上所谓“本地部署”方案，多为参数量缩水90%的蒸馏版，背后原因是671B参数的MoE架构对显存要求极高——即便用8卡A100也难以负荷。 因此，想在本地小规模硬件上跑真正的DeepSeek-R1，被认为基本不可能。
2/12/2025 12:45:59 PM
全球开源大模型榜单揭晓，阿里通义千问独占鳌头

全球开源大模型榜单揭晓，阿里通义千问独占鳌头
近日，全球最大人工智能开源社区 Huggingface 发布了最新的开源大模型排行榜（Open LLM Leaderboard），结果显示，排名前十的开源大模型全都是基于阿里通义千问(Qwen)开源模型进行二次训练的衍生模型。 这一成就标志着 Qwen 在开源 AI 领域的主导地位，进一步推动了其在全球的影响力。 Open LLM Leaderboard 被广泛认为是当前最权威的开源大模型榜单，测试维度涵盖了多个领域，包括阅读理解、逻辑推理、数学计算及事实问答等。
2/11/2025 11:55:00 AM
AI在线
从 DeepSeek 看25年前端的一个小趋势

从 DeepSeek 看25年前端的一个小趋势
从 DeepSeek 看25年前端的一个小趋势大家好，我卡颂。 最近DeepSeek R1爆火。 有多火呢？
2/11/2025 10:17:19 AM
卡颂
DeepSeek R1 震撼登场：从介绍到使用

DeepSeek R1 震撼登场：从介绍到使用
春节期间，DeepSeek 掀起了一股热潮，成为了科技领域的热门话题。 身边很多非圈内人士茶余饭后也在讨论 DeepSeek，足以见得其火爆程度。 介绍DeepSeek 全称：杭州深度求索人工智能基础技术研究有限公司，成立于 2023 年 7 月 17 日。
2/11/2025 8:35:30 AM
oec2003
1分钟学会DeepSeek本地部署，小白也能搞定！

1分钟学会DeepSeek本地部署，小白也能搞定！
DeepSeek 是国内顶尖 AI 团队「深度求索」开发的多模态大模型，具备数学推理、代码生成等深度能力，堪称"AI界的六边形战士"。 DeepSeek 身上的标签有很多，其中最具代表性的标签有以下两个：低成本（不挑硬件、开源）高性能（推理能力极强、回答准确）一、为什么要部署本地DeepSeek？ 相信大家在使用 DeepSeek 时都会遇到这样的问题：图片这是由于 DeepSeek 大火之后访问量比较大，再加上漂亮国大规模、持续的恶意攻击，导致 DeepSeek 的服务器很不稳定。
2/10/2025 12:00:10 AM
磊
为什么中国只有一个 DeepSeek？

为什么中国只有一个 DeepSeek？
DeepSeek 风暴后，中国的大模型创业圈会发生什么样的变化？ 近日来，笔者也与多位业内人士进行了探讨，发现国产大模型圈目前出现了两个极端：一个是极端的热血沸腾，另一个则是极端的霜打茄子。 前者以积极拥抱 DeepSeek 生态的算力厂商与模型服务厂商、以及原先没有能力参与大模型“军备竞赛”的开源受益者为代表，后者则以其他中国大模型创业公司（俗称“大模型六小虎”）与过去两年投资了这些公司的 VC 们为主，形成了一个“冰火两重天”的局面。
2/9/2025 5:23:00 PM
陈彩娴
OpenAI公开了大模型o3-mini的推理思维链

OpenAI公开了大模型o3-mini的推理思维链
2月8日消息，据外媒报道，OpenAI更新了o3-mini AI模型的“思维链”功能，让用户可以看到模型的思考过程。 这是在DeepSeek-R1发布之后发生的，DeepSeek-R1是一个竞争对手的推理模型，也显示了其反应背后的思维过程。 推理模型旨在逐步分解其决策过程，因此需要更长的时间来生成响应。
2/8/2025 5:00:11 PM
Yu
腾讯云上线DeepSeek全系API接口并打通联网搜索

腾讯云上线DeepSeek全系API接口并打通联网搜索
腾讯云宣布完成对深度求索（DeepSeek）大模型的深度整合——正式上线DeepSeek-R1和V3原版模型的API接口，并创新性接入自研大模型知识引擎，同步开放联网搜索能力。 凭借腾讯云在推理并发和生成速率等方面的优化，用户可以获得更加稳定、安全、低门槛的使用体验。 开发者只需在云上简单三步即可实现API接口调用，并通过大模型知识引擎提供的文档解析、拆分、embedding、多轮改写等能力，灵活构建专属的AI服务。
2/8/2025 2:09:00 PM
AI在线
o3-mini数学推理暴打DeepSeek-R1？AIME 2025初赛曝数据集污染大瓜

o3-mini数学推理暴打DeepSeek-R1？AIME 2025初赛曝数据集污染大瓜
大语言模型，到底是学会了解决数学问题，还是只是背下了答案？ LLM的「Generalize VS  Memorize」之争，迎来最新进展。 苏黎世联邦理工的研究员Mislav Balunović，在X上公布了一众顶级AI推理模型在AIME 2025 I比赛中的结果。
2/8/2025 11:44:03 AM
新智元
从 DeepSeek 火热，到李飞飞团队新成果，“幕后高手”竟是它

从 DeepSeek 火热，到李飞飞团队新成果，“幕后高手”竟是它
最近 AI 大模型领域可以说是热点话题不断，DeepSeek 的热潮还未消退，国内李飞飞团队提出的一种模型训练新方法又在行业里引发热议
2/7/2025 2:13:55 PM
汐元
国产大模型DeepSeek爆火，崛起背后大模型专利申请激增

国产大模型DeepSeek爆火，崛起背后大模型专利申请激增
近日，国产大模型DeepSeek爆火全网，凭借“低成本、高性能”的技术优势，其成为全球科技市场关注的焦点。 创始人梁文锋介绍，团队主要由国内高校毕业生和没毕业的博士生组成。 过硬的创新成果表明，今天的中国，正在成为顶尖人才成长的沃土、原创性创新的策源地。
2/7/2025 1:42:00 PM
AI在线
OpenAI突然公开o3思维链！网友：让我们谢谢DeepSeek

OpenAI突然公开o3思维链！网友：让我们谢谢DeepSeek
刚刚，OpenAI把o3-mini的推理思维链公开了。 从今日起，免费用户和付费用户都可以看到模型的思维过程，OpenAI终于Open一回。 图片评论区网友纷纷：让我们谢谢DeepSeek。
2/7/2025 9:05:36 AM
网易有道全面拥抱DeepSeek-R1，推理大模型加速个性化教学升级

网易有道全面拥抱DeepSeek-R1，推理大模型加速个性化教学升级
1月20日，DeepSeek震撼发布DeepSeek-R1，这款推理大模型在数学、编程及逻辑推理等多个领域展现出了与OpenAI顶尖模型比肩的实力，同时实现了API调用成本90%-95%的大幅缩减，无疑为科技界投下了一颗开年“重磅炸弹”。 DeepSeek-R1的深度推理能力不仅为AI产业的多元化发展开辟了新航道，也为包括教育在内的多个行业带来了革新动力。 作为教育科技企业，网易有道坚持深入挖掘教育场景下的大模型应用价值。
2/6/2025 7:37:00 PM
新闻助手
百度智能云上架DeepSeek R1/V3，上线首日超1.5万家客户调用

百度智能云上架DeepSeek R1/V3，上线首日超1.5万家客户调用
2月3日百度智能云宣布 DeepSeek-R1和 DeepSeek-V3模型上架百度智能云千帆平台，并宣布提供行业领先的超低推理价格。 模型上线首日，已有超1.5万家客户通过千帆平台进行模型调用。 为降低模型使用成本，百度智能云在推理引擎性能优化技术、推理服务工程架构创新以及推理服务全链路安全保障上的进行深度融合。
2/6/2025 6:19:00 PM
新闻助手