理论

使用 VLLM 部署 DeepSeek：基于 Ubuntu 22.04 + RTX 4090 + Docker 的完整指南

最近，大语言模型（LLM）的部署已经成为 AI 开发者绕不开的核心技能。而 VLLM 作为一款高性能、低延迟的推理引擎，在大模型推理领域迅速崛起。今天，我就带大家从零开始，在 Ubuntu 22.04 RTX 4090 Docker 环境下，部署 DeepSeek模型，并让它跑起来！

3/12/2025 12:37:50 PM

写代码的中年人

Manus逼OpenAI开源智能体框架，网友：已从行业领导者变为跟随者

OpenAI又开源了，这次是一套智能体开发框架。联网搜索、文件搜索、计算机使用（Computer Use），统统打包，GitHub 8小时上千星。图片奥特曼认为其中的API是有史以来（并没有限定在OpenAI范围内）设计最完善、最实用的之一。

3/12/2025 11:34:35 AM

DeepSeek 开源的 DualPipe，居然是梁文峰写的，你感性？

继DeepGEMM之后，deepseek开源了第四弹DualPipe。今天来简单聊聊DualPipe，包懂。 DualPipe是干嘛的？

3/12/2025 10:36:32 AM

架构师之路

OpenAI深夜大招暴打Manus！智能体全家桶杀器一统API，4行代码轻松上手

Manus掀起的智能体风暴，再次逼急了OpenAI。凌晨，OpenAI突然开启线上直播，正式放出开发者自主构建智能体的大礼包——一个全新API、三个内置工具，以及一个开源SDK。具体包括：全新Responses API⁠：将Chat Completions API简单性与Assistants API工具使用功能相结合，用于构建智能体内置三大工具：网络搜索⁠、文件搜索⁠和计算机使用全新Agents SDK⁠：用于编排单智能体和多智能体工作流程集成可视化工具：用于追踪和检查智能体工作流程执行情况以往，开发者构建一款智能体应用，需要从不同来源拼凑各种底层API。

3/12/2025 10:32:23 AM

OpenAI深夜发布全新Agent工具：两大杀器登场，感觉可以手搓Manus了

可以自己动手手搓Manus了？刚刚OpenAI举行了一个19分钟的线上发布会，推出全新Agent工具，OpenAI直接祭出自研Agent SDK和Responses API两大杀器！旨在彻底简化agent开发流程，让开发者和企业都能轻松构建实用又可靠的智能体！

3/12/2025 10:00:44 AM

AI寒武纪

被Manus惊到了？OpenAI深夜发布Agent开发三剑客！开源一个新的SDK，现场手搓三个Agent！还抖了一个内部的料

出品 | 51CTO技术栈（微信号：blog51cto）“2025年将是Agent之年，这一年，ChatGPT和我们的开发工具将从仅仅回答问题，转变为真正为你在现实世界中做事。 ”上周Manus通用智能体的发布之后带火了Claude的MCP框架之后，OpenAI终于坐不住了，今天凌晨一点通过直播的形式，一口气把自己内部工程人员在用的Agent开发工具发布了出来。整体直播不长，只有20分钟，但足以让外界从OpenAI的视角来见识一番以全球最先进的基座模型来做出来的Agent的效果。

3/12/2025 7:56:29 AM

OpenAI 发布新工具，推动 AI 智能体从“回答问题”跨越到“执行任务”

IT之家 3 月 12 日消息，OpenAI 公司昨日（3 月 11 日）发布博文，面向开发者推出了一系列新的工具，帮助其创建 AI 智能体过程中，简化开发流程和增强智能体技能和功能。此次发布标志着 OpenAI 的 API 平台向更实用、更贴近现实世界的应用迈出了重要一步。 IT之家简要介绍下本次发布的新开发者工具：Responses API：该 API 结合了聊天功能与集成工具（如网页搜索和文件搜索），基于 ChatGPT 搜索模型，提供实时信息并附带引用来源，为开发者提供了更灵活的开发基础。

3/12/2025 7:52:59 AM

故渊

从鹦鹉学舌到灵魂对话，AI的人话革命

2030年，一位老人对家庭机器人说：“我想念年轻时在西湖划船的日子。 ”AI不仅能调出当年的老照片，还能结合实时天气与老人健康数据，规划一场安全舒适的怀旧之旅，并同步预约无人游船。当机器对人类产生“主动关怀”，标志着AI从工具进化为“生活伴侣”。

3/11/2025 1:20:43 PM

佚名

人工智能重塑美国就业市场，AI技术正成为职场必备技能

据华尔街日报报道，人工智能（AI）正在深刻改变美国的就业格局，其渗透程度远超预期。最新数据显示，2025年至今，美国近四分之一的技术岗位招聘明确要求应聘者具备AI技能，这一比例在过去几年中呈爆发式增长。科技行业引领AI岗位增长在信息科技领域，人工智能的影响力尤为突出。

3/11/2025 1:14:15 PM

小菲

基于Dify与DeepSeek：零门槛训练自己的专属AI大模型

在人工智能（AI）技术日益普及的今天，训练属于自己的AI大模型不再是遥不可及的梦想。随着DeepSeek R1的发布，其部署成本仅为ChatGPT的十分之一，这一突破让更多企业和个人能够轻松参与AI开发。未来，垂直领域的AI大模型和应用将如雨后春笋般涌现，这无疑是一个巨大的机遇。

3/11/2025 10:51:35 AM

冰河技术

DeepSeek级AI？训练自己的推理模型仅需七个步骤

译者 | 布加迪审校 | 重楼谁需要超级计算机？仅用15GB VRAM就可以训练你自己的功能强大的AI推理模型！ DeepSeek的R1模型在不需要人类反馈的情况下就能进行更深思熟虑的推理，已颠覆了大语言模型（LLM）领域。

3/11/2025 8:37:42 AM

布加迪

从DeepSeek MoE专家负载均衡谈起

上周中的时候, 同事给我了一份线上DeepSeek-R1推理的Expert激活的数据用来研究一些专家负载均衡的算法, 当然这些线上数据来自于公司内部的请求, 从中观测出前面10层专家基本上是相对均衡的, 而越到后面不均衡程度差异越大. 当时讨论到这个问题时, 是怀疑内部的一些请求是否专注于电商领域而带来的不平衡特性, 于是做了一些研究. 恰好搜到Intel的一篇论文《Semantic Specialization in MoE Appears with Scale: A Study of DeepSeek-R1 Expert Specialization》[1]有一些基于语义的MoE分析专家的专业性相关的问题, 再加上前几天看到某个公众号采访某院长的一个比较有趣的说法:“Dense模型适合toB业务,MoE模型适合toC业务”.

3/11/2025 12:35:00 AM

zartbot

一条神奇的指令，DeepSeek直接文生图

最近又发现一条神奇的提示词指令，借助Markdown的image标签可以直接在DeepSeek当前窗口得到我们想要的图片。效果预览我们先看看这条指令的效果：图片这是岳哥在DeepSeek官网直接生成的一辆高铁行驶在海面上生成的图片，可以在DeepSeek上直接预览和下载图片。提示词指令这条提示词指令具体如下：复制提示词解读这条这里分为3部分第一部分的描述性内容是告诉DeepSeek要生成AI图片，并且指出要如何生成第二部分的url则是具体的AI图片生成的指令，通过替换Prompt的内容来生成第三部分则是希望DeepSeek将AI绘画的提示词以中文的形式显示出来虽然是在DeepSeek当前窗口直接输出，但其实上这里还是借助了第三方AI绘画网站生成图片的功能。

3/11/2025 12:22:00 AM

、平凡世界

如何看待”首个真干活”AI—Manus？

话题背景今日凌晨，一款通用AI Agent产品「Manus」正式发布。 GAIA评分已超越OpenAI的DeepResearch，成为GAIA评分第一。这一产品以“数字代理人”自居，宣称能独立完成复杂任务并交付完整成果，迅速成为科技圈的焦点。

3/10/2025 12:00:00 PM

腾讯技术工程

OpenAI给所有模型做“身份卡”！一个页面读懂能力、速度、价格全指标

OpenAI的模型搞得太多太凌乱，官方自己都看不下去了。为了厘清这些模型还有它们的各种版本，官方直接给做它们了一套“身份卡”。每个模型“身份卡”都包含了能力、速度、支持模态、价格等信息，并且以图示简单文本的形式呈现，既简洁又清晰。

3/10/2025 11:38:42 AM

OpenAI扩大了对Deep Research的访问

OpenAI宣布，它已经扩大了对其Deep Research的访问，这是其开发的一种新的人工智能代理，旨在进行复杂的研究。 Deep Research本月早些时候向ChatGPT Pro的用户首次亮相，该公司的订阅级别为每月200美元，但现在所有付费用户都可以使用。该公司在周二的一篇社交媒体帖子中表示：“Deep Research现在正在向所有ChatGPT Plus、Team、Edu和Enterprise用户推出。

3/10/2025 10:26:16 AM

佚名

大模型本地部署的“隐形炸弹”，你的数据安全吗？

作者 | 朱雀实验室随着DeepSeek R1等开源大模型的火爆，越来越多的开发者、企业甚至开始尝试在本地部署大语言模型，享受AI带来的便利。然而近期腾讯混元安全团队-朱雀实验室发现：这些广受欢迎的AI工具中有不少存在安全隐患。如果使用不当，攻击者可能窃取用户数据、滥用算力资源，甚至控制用户设备。

3/10/2025 9:10:00 AM

腾讯技术工程

Ollama的配置修改与接口调用

一、修改环境变量1.1 配置远程访问在我们本地部署好ollama之后，仅支持本机访问，我们可以通过修改环境变量让其他人可以远程访问。在wins电脑上增加环境变量：复制1.2 配置本地模型路径1.2.1 本地模型默认路径wins本地模型默认路径：C:\Users\%username%\.ollama\models。这里 %username% 是当前登录的用户名。

3/10/2025 9:00:00 AM

Python伊甸园

资讯热榜

DeepSeek刚提到FP8，英伟达就把FP4精度推向预训练，更快、更便宜 Meta 新超级智能实验室遭遇离职潮，AI 人才流失引发担忧宾州州立大学推出首个人工智能工程学位，抢占教育先机多模态新旗舰MiniCPM-V 4.5：8B 性能超越 72B，高刷视频理解又准又快联合国成立人工智能咨询小组 AI 安全测试揭示聊天机器人助长恐怖活动与网络犯罪亿万富翁丹・洛布减持台积电，转投另一家万亿人工智能公司刚刚更新，全球AI百强：中国五款产品进前20，ChatGPT背腹受敌，氛围编程成黑马

标签云

AI 人工智能 OpenAI AIGC 模型 ChatGPT DeepSeek AI绘画谷歌机器人数据大模型 Midjourney 开源智能用户 Meta 微软 GPT 学习技术图像 Gemini 马斯克 AI创作智能体英伟达 Anthropic 论文代码 AI新词训练算法 Stable Diffusion 芯片 LLM 蛋白质开发者腾讯 Claude 苹果生成式 AI for Science Agent 神经网络 3D 机器学习研究 xAI 生成人形机器人 AI视频计算百度 Sora GPU AI设计华为工具大语言模型 RAG 搜索具身智能字节跳动大型语言模型场景深度学习预测视频生成伟达视觉 Transformer AGI 架构亚马逊神器推荐 Copilot DeepMind 特斯拉应用