文章列表

分类

标签

Karpathy后悔了：2015年就看到了语言模型的潜力，却搞了多年强化学习

耽误业界好多年？「这是有史以来最大、最令人困惑的研究生涯错误，」Andrej Karpathy 感叹道。上个周末，OpenAI 创始成员、研究科学家、原特斯拉前 AI 高级总监、AI 领域的大神 Andrej Karpathy 一直在后悔。

11/18/2024 1:30:00 PM

机器之心

视频大模型无损提速：删除多余token，训练时间减少30%，帧率越高效果越好 | NeurIPS

把连续相同的图像块合并成一个token，就能让Transformer的视频处理速度大幅提升。卡内基梅隆大学提出了视频大模型加速方法Run-Length Tokenization（RLT），被NeurIPS 2024选为Spotlight论文。在精度几乎没有损失的前提下，RLT可以让模型训练和推理速度双双提升。

11/18/2024 11:20:00 AM

量子位

Nature:「人类亲吻难题」彻底难倒LLM，所有大模型全部失败！LLM根本不会推理，只是工具

LLM究竟是否拥有类似人类的符合理解和推理能力呢？许多认知科学家和机器学习研究人员，都会认为，LLM表现出类人（或「接近类人」）的语言能力。然而，来自帕维亚大学、柏林洪堡大学、得克萨斯大学休斯顿健康科学中心、纽约大学、巴塞罗那自治大学的研究者却提供了一些最全面的证据，表明目前它们基本没有！

11/18/2024 9:30:00 AM

新智元

大模型时代下的私有数据安全与利用

一、大模型时代下的数据安全与利用问题众所周知，大模型是当前研究的热点之一，且已成为当前发展的主流趋势。我们团队最近的研究方向从传统的联邦学习转变为探索这一范式在大模型时代的新拓展，即基于知识迁移的联邦学习。我们认为在大模型时代，这种新的联邦学习模式非常适用。

11/18/2024 8:13:30 AM

邹恬圆

只要三分钟，让你快速掌握 SD-Lora 模型炼制的基础知识

好看又好用！ 5 款高质量的 Flux Lora 模型推荐大家好，这里是和你们一起探索 AI 的花生~这几天一直在高强度学习 Flux 的相关内容，前面为大家详细介绍了 Flux 生态的最新内容，今天再推荐一些我发现的质量非常不错的 Flux Lora，包含写实、插画等多种风格，其中一些对提升 Flux 的出图效果非常有帮助，一起来看看吧~阅读文章 . SD-Lora 模型炼制基本介绍.

11/18/2024 12:01:18 AM

Infinite AI

前谷歌 AI 研究员：ChatGPT 原本可以更早出现的

在今年 10 月的 TED AI 大会上，被称为“谷歌八子”之一的雅各布・乌斯克尔特（Jakob Uszkoreit）接受了媒体的采访。在访谈中，他分享了 Transformer 的发展历程、谷歌在大语言模型领域的早期探索，以及他目前在生物计算领域的新冒险。

11/17/2024 11:01:23 PM

小小

怎样保证你不是AGI独裁者？马斯克为何退出OpenAI？早期邮件公开了

今年，OpenAI 可以说是大事不断：内斗、离职等等一系列事件吸引着大家的眼球。其中，OpenAI 与马斯克的诉讼、纠纷也一直备受大家关注。今年 3 月份，马斯克这位前 OpenAI 联合创始人在一份长达 46 页、总字数超过 1.4 万字的诉讼文件中，指控 OpenAI 不计后果地开发人类级别的人工智能。

11/17/2024 3:19:00 PM

机器之心

在AI和LLM架构中实现零信任：安全且负责任的AI系统实践指南

在AI和大型语言模型快速发展的背景下，安全不能再被视为事后的考虑。随着这些技术成为企业运营不可或缺的一部分，实施强有力的安全措施至关重要，然而，AI的安全超越了传统的网络安全实践——它还必须涵盖伦理考量和负责任的AI原则。本指南为IT从业人员和决策者提供了一种在AI和LLM架构中应用零信任原则的综合方法，强调从基础层面融入伦理考量。

11/15/2024 4:39:35 PM

Vaibhav Malik

大模型容易忽视的安全，火山方舟早就「刻」进了基因

大模型时代，企业使用云上模型的痛点有哪些？你可能会说模型不够精准，又或者成本太高，但这些随着AI技术的快速发展，在不远的将来或许都不再是问题。比如成本，自豆包大模型首次将价格带进“厘”时代以来，行业纷纷跟进，企业客户从此不再为使用模型的成本过度高昂而烦扰。

11/15/2024 4:03:00 PM

代聪飞

新Scaling Law浮出水面！OpenAI内部员工爆料下一代模型Orion性能堪忧；量化Llama3困难，这些都有了新解

编辑 | 言征出品 | 51CTO技术栈（微信号：blog51cto）Scaling Law 最近被业内不少人士唱衰，一方面以OpenAI为代表大模型厂商们，基本上还是围绕着GPT-4在探索周边，虽说不是原地打转，但单就性能提升而言，就连OpenAI自家的员工都爆料说非常有限。 1.OpenAI内部人士：Orion性能提升遇到瓶颈昨天，外媒媒体曝出消息称，奥特曼一直吊胃口的下一代模型“Orion”，也被自家的两位知情人士，坦承：GPT-4与Orion之间的质量差距明显小于GPT-3与GPT-4之间的差距，并透露截止到夏末，Orion在回答未经训练的编码问题时表现不佳，仅在语言处理能力方面显示出提升。这可影响大了，业界都在向着OpenAI学习、追赶，OpenAI的放缓自然也就意味着大模型进展在放缓。

11/15/2024 3:31:44 PM

言征