AIGC宇宙 AIGC宇宙

大模型

OpenAI API：LLM编程的事实标准

OpenAI API：LLM编程的事实标准
当下，大模型领域已然步入 “百模大战” 时期，形形色色的大模型如雨后春笋般不断涌现。 那么，若我们打算学习大模型的 API，是否真的需要逐一去钻研呢？ 答案无疑是否定的。
11/28/2024 4:45:50 PM
greencoatman
官宣开源 阿里云与清华大学共建AI大模型推理项目Mooncake

官宣开源 阿里云与清华大学共建AI大模型推理项目Mooncake
2024年6月，国内优质大模型应用月之暗面Kimi与清华大学MADSys实验室（Machine Learning, AI, Big Data Systems Lab）联合发布了以 KVCache 为中心的大模型推理架构 Mooncake。 通过使用以 KVCache 为中心的 PD 分离和以存换算架构，大幅提升大模型应用Kimi智能助手推理吞吐的同时有效降低了推理成本，自发布以来受到业界广泛关注。 近日，清华大学和研究组织9#AISoft，联合以阿里云为代表的多家企业和研究机构，正式开源大模型资源池化项目 Mooncake。
11/28/2024 3:51:00 PM
新闻助手
月之暗面 Kimi 联合清华大学等开源大模型推理架构 Mooncake

月之暗面 Kimi 联合清华大学等开源大模型推理架构 Mooncake
本次开源将采用分阶段的方式，逐步开源高性能 KVCache 多级缓存 Mooncake Store 的实现，同时针对各类推理引擎和底层存储 / 传输资源进行兼容。
11/28/2024 1:06:19 PM
汪淼
吴恩达开源大模型套件：11 个模型平台一种方式调用，已获星标超 1.2K

吴恩达开源大模型套件：11 个模型平台一种方式调用，已获星标超 1.2K
它把 11 家知名大模型平台集中到了一起，统一了接口，可以用相同的方式调用不同模型。切换模型时，只需要改动一个字符串，不用在不同的 API 之间摸不着头脑了。
11/26/2024 1:03:37 PM
汪淼
提示词：怎样与大模型沟通

提示词：怎样与大模型沟通
同前面讲大模型特点类似，关于如何使用 GPT，我们也会分成两个视角：用户视角和技术视角。 这一讲，我们先从用户视角来看看如何用好 GPT。 用好 GPT若要充分发挥 GPT 的效用，需遵循以下步骤：首先是定义任务目标。
11/26/2024 11:44:04 AM
greencoatman
【RAG】浅看引入智能信息助理提升大模型处理复杂推理任务的潜力-AssisTRAG

【RAG】浅看引入智能信息助理提升大模型处理复杂推理任务的潜力-AssisTRAG
AssisTRAG通过集成一个智能信息助手来提升LLMs处理复杂推理任务的能力。 该框架由两个主要组件构成：一个冻结的主语言模型和一个可训练的助手语言模型。 AssisTRAG与之前的RAG对比1.
11/26/2024 8:50:20 AM
余俊晖
滴滴ChatBI技术实践：智能数据分析的前沿探索与应用

滴滴ChatBI技术实践：智能数据分析的前沿探索与应用
一、ABI 方向的演进及 ChatBI 领域现状1.  BI 产品的演进方向BI 产品的发展经历了从报表式 BI 到自助式 BI 的演变，而当前智能 BI 则吸引了大家的广泛关注与大量投入。 无论是早期的增强分析技术，还是如今新兴的 ChatBI 产品形态，其核心目的都在于降低用户利用数据的门槛与成本。
11/25/2024 8:50:24 AM
王涛
火山引擎基于大模型 ChatBI 的演进与实践

火山引擎基于大模型 ChatBI 的演进与实践
一、背景与趋势1. BI 平台演进 - 全面进入智能化在探讨火山引擎 BI 工具的发展历程时，可以清晰地划分为几个关键阶段，这些阶段亦与市面上主流 BI 工具的演进过程相吻合。 最初，传统 BI 工具主要聚焦于报表平台，由业务方提出需求，产研团队作为数据的主要生产者，负责制造简单的报表，以辅助经营仪表盘的制作。
11/25/2024 8:20:22 AM
刘然
腾讯混元大模型核心论文曝光：Scaling law、MoE、合成数据以及更多

腾讯混元大模型核心论文曝光：Scaling law、MoE、合成数据以及更多
随着 ChatGPT 的横空出世，大语言模型能力开始在各项领域（传统 NLP、数学、代码等）得到广泛验证，目前已经深刻影响到腾讯混元团队日常生活的方方面面。 腾讯混元团队长期致力于大语言模型的探索之路，大模型生产的各个环节开展研究创新以提升其基础能力，并将混元大模型的能力跟业务做深度结合，让生成式 AI 成为业务增长的放大器。 大语言模型的设计、训练和优化是一项复杂的系统工程，涉及到模型结构创新、训练范式优化、数据获取和评测设计、关键能力提升和挑战性问题的解决等方方面面。
11/22/2024 5:23:00 PM
新闻助手
首个可保留情感的音频 LLM：Meta 重磅开源 7B-Spirit LM，一网打尽“音频 + 文本”多模态任务

首个可保留情感的音频 LLM：Meta 重磅开源 7B-Spirit LM，一网打尽“音频 + 文本”多模态任务
Meta 开源了一个基础多模态语言模型 Spirit LM，基于一个 70 亿参数的预训练文本语言模型，交错使用文本和语音数据进行训练，使模型能够自由地混合文本和语音，在任一模态中生成语言内容。
11/22/2024 1:04:32 PM
问舟
写给小白的大模型入门科普

写给小白的大模型入门科普
什么是大模型？ 大模型，英文名叫Large Model，大型模型。 早期的时候，也叫Foundation Model，基础模型。
11/22/2024 10:45:20 AM
小枣君
没有思考过 Embedding，谈何 RAG，更不足以谈 AI大模型

没有思考过 Embedding，谈何 RAG，更不足以谈 AI大模型
今天，我们来聊聊 AI 大模型，有一个非常重要概念 "Embedding"。 你可能听说过它，也可能对它一知半解。 如果你没有深入了解过 Embedding，那你就无法真正掌握 RAG 技术，更不能掌握 AI 大模型精髓所在。
11/21/2024 3:44:21 PM
渔夫
405B大模型也能线性化！斯坦福MIT最新研究，0.2%训练量让线性注意力提分20+

405B大模型也能线性化！斯坦福MIT最新研究，0.2%训练量让线性注意力提分20+
生产级大模型应用线性注意力的方法，来了。 线性Attention（包括RNN系列），再也不用困在几B参数的范围内娱乐了。 一套方法，即可线性化现有各种量级的Transformer模型，上至Llama 3.1 405B，也只需要十来张显卡在两天内搞定！
11/21/2024 8:39:08 AM
新智元
昆仑万维推出“天工大模型 4.0”4o 版及实时语音助手 Skyo，号称可克服大模型幻觉

昆仑万维推出“天工大模型 4.0”4o 版及实时语音助手 Skyo，号称可克服大模型幻觉
今天上午，昆仑万维宣布推出“天工大模型4.0”4o版（Skywork 4o）以及新产品“实时语音对话助手Skyo”。
11/20/2024 6:15:47 PM
清源
年度世界互联网科技大奖公布，腾讯Angel机器学习平台获领先科技奖

年度世界互联网科技大奖公布，腾讯Angel机器学习平台获领先科技奖
11月19日，2024年世界互联网大会领先科技奖在乌镇发布，腾讯Angel机器学习平台凭借其卓越的技术积累、创新的关键技术和广泛的应用场景，荣获本年度领先科技奖。 腾讯Angel 机器学习平台，突破了万亿级模型分布式训练和推理以及大规模应用部署等难题，率先实现大模型技术从底层硬件到关键软件技术的自主研发，在业务场景广泛应用，显著推动实体产业和数字经济发展，提升社会效率。 世界互联网大会领先科技奖由世界互联网大会主办，旨在奖励全球年度最具领先性的互联网科技成果，倡导互联网技术国际交流合作。
11/20/2024 11:13:00 AM
新闻助手
LLM为何频频翻车算术题？研究追踪单个神经元，「大脑短路」才是根源

LLM为何频频翻车算术题？研究追踪单个神经元，「大脑短路」才是根源
由于缺少对运行逻辑的解释，大模型一向被人称为「黑箱」，但近来的不少研究已能够在单个神经元层面上解释大模型的运行机制。 例如Claude在2023年发表的一项研究，将大模型中大约500个神经元分解成约4000个可解释特征。 而10月28日的一项研究，以算术推理作为典型任务，借鉴类似的研究方法，确定了大模型中的一个模型子集，能解释模型大部分的基本算术逻辑行为。
11/19/2024 12:53:50 PM
新智元
AlphaFold3级性能、开源、可商用，MIT团队推出生物分子预测模型Boltz-1

AlphaFold3级性能、开源、可商用，MIT团队推出生物分子预测模型Boltz-1
图示：来自测试集的靶标上的 Boltz-1 的示例预测。 （来源：论文）编辑 | 萝卜皮2024 年 11 月 18 日，麻省理工学院（MIT）的研究人员宣布推出 Boltz-1，这是一个开源模型，旨在准确模拟复杂的生物分子相互作用。 Boltz-1 是第一个完全商业化的开源模型，在预测生物分子复合物的 3D 结构方面达到 AlphaFold3 级精度。
11/19/2024 11:59:00 AM
ScienceAI
视频大模型无损提速：删除多余token，训练时间减少30%，帧率越高效果越好 | NeurIPS

视频大模型无损提速：删除多余token，训练时间减少30%，帧率越高效果越好 | NeurIPS
把连续相同的图像块合并成一个token，就能让Transformer的视频处理速度大幅提升。 卡内基梅隆大学提出了视频大模型加速方法Run-Length Tokenization（RLT），被NeurIPS 2024选为Spotlight论文。 在精度几乎没有损失的前提下，RLT可以让模型训练和推理速度双双提升。
11/18/2024 11:20:00 AM
量子位