OpenAI - AIGC宇宙

OpenAI Lilian Weng万字长文解读LLM幻觉：从理解到克服

Lilian Weng 出品，必是精品。人会有幻觉，大型语言模型也会有幻觉。近日，OpenAI 安全系统团队负责人 Lilian Weng 更新了博客，介绍了近年来在理解、检测和克服 LLM 幻觉方面的诸多研究成果。Lilian Weng，中文名翁丽莲，是 OpenAI 安全系统团队负责人。她 2018 年加入 OpenAI，参与了 GPT-4 项目的预训练、强化学习 & 对齐、模型安全等方面的工作。她的博客深入、细致，具有前瞻性，被很多 AI 研究者视为重要的参考资料（其他博客见文末扩展阅读）。大型语言模型的幻觉

7/15/2024 11:34:00 AM

机器之心

代号“草莓”，OpenAI 被曝研发新项目：将 AI 推理能力提至新高度

感谢路透社今天发布报道，称 OpenAI 公司正在研发代号为“草莓”的全新项目，进一步延伸去年 11 月宣布的 Q* 项目，不断提高 AI 推理能力，让其更接近人类的智力。AI在线援引该媒体报道，“草莓”项目会自主、高效地扫描互联网，并可靠地执行 OpenAI 所描述的“深度研究”，让其能够大规模解决更复杂的现实世界问题。一位内部知情人士透露：“我们希望我们的人工智能模型能够像我们一样看待和理解这个世界。不断研究新的人工智能能力也成为业界共识，我们都相信，这些系统的推理能力会随着时间的推移而不断提高”。“草莓”项目

7/13/2024 12:49:34 PM

故渊

五年后的今天，训练GPT-2只需不到700刀、24小时，Karpathy又整新活

论老黄卖铲子的技术含量。2019 年 2 月，OpenAI 发布了 GPT-2，因为在文本生成上的优异表现，以及对于预训练 Transformer 架构的充分运用，被认为是如今大预言模型的「始祖」。五年后的今天，训练 GPT-2 这样 15 亿参数的大模型，只需要花费 672 美元，在一个 8XH100 的 GPU 节点上跑 24 个小时就可以搞定了。本周四，前特斯拉 Autopilot 负责人、OpenAI 科学家 Andrej Karpathy 在他纯 C 语言复现 GPT-2 大模型的项目「llm.c」的最新

7/12/2024 3:32:00 PM

机器之心

OpenAI 提出通用人工智能五级标准，自认为接近但未达到第二级

彭博社报道称，OpenAI 提出通用人工智能五级标准，用来确认人工智能的进展。OpenAI 高管告诉员工，公司自认为目前还处于第一级，但即将达到第二级。通用人工智能（AGI、Artificial General Intelligence），是指具有高效的学习和泛化能力、能够根据所处的复杂动态环境自主产生并完成任务的通用人工智能体，具备自主的感知、认知、决策、学习、执行和社会协作等能力，且符合人类情感、伦理与道德观念。AI在线附 OpenAI 提出的等级标准：第一级：聊天机器人，具有会话语言的人工智能第二级：推理者，

7/12/2024 10:35:33 AM

沛霖（实习）

调查显示，中国生成式人工智能普及率领跑全球

一项最新调查显示，中国在生成式人工智能的普及率方面处于世界领先地位，这表明中国在这项技术领域取得了长足进步。生成式人工智能因美国 OpenAI 公司于 2022 年底推出 ChatGPT 而获得全球关注。图源 Pixabay这项由美国人工智能和数据分析软件公司 SAS 和 Coleman Parkes Research 联合进行的调查，采访了来自全球 16 个国家和地区的 1600 名行业决策者。调查结果显示，83% 的中国受访者表示他们使用了生成式人工智能，这一比例高于美国的 65% 以及所有参与调查的国家和地区

7/9/2024 9:33:59 PM

远洋

OpenAI 公司被指不重视安全，未披露和报告 2023 年入侵事件

《纽约时报》两天前发布博文，表示 OpenAI 公司于 2023 年年初发生安全事件，攻击者成功入侵 OpenAI 的内部邮件系统，窃取了有关该公司人工智能技术和研究材料的敏感讨论，但黑客并未进入托管人工智能源代码的服务器。本次安全事件由于没有泄露客户数据，OpenAI 公司并没有披露本次安全事件，也没有向 FBI 或者其它执法部门报告，只是通知了董事会以及内部员工。IT之家援引该媒体报道，本次安全事件导致员工质疑 OpenAI 对安全的重视程度，且成为新的导火索，导致了内部员工出现分裂。其中一个例子是莱奥波德・阿

7/6/2024 3:17:13 PM

故渊

macOS 版 ChatGPT 被指以纯文本存储 AI 对话，OpenAI 紧急更新修复

IT之家 7 月 4 日消息，开发者 Pedro Vieito 于 2 天前在 Thread 平台发布动态，表示 macOS 版 ChatGPT 应用会以纯文本方式存储用户对话，OpenAI 公司今天回应称已更新其应用，对存储在 Mac 设备上的聊天记录进行了加密处理。IT之家 6 月 26 日报道，OpenAI 公司发布了适用于苹果 macOS 系统的 ChatGPT 聊天机器人应用程序。OpenAI 称，macOS 版 ChatGPT 将无缝集成用户日常操作，原生支持 Mac 系统，并提供方便的快捷键 (Opt

7/4/2024 7:29:10 AM

故渊

macOS 版 ChatGPT 被指以纯文本存储 AI 对话，OpenAI 紧急更新修复

IT之家 7 月 4 日消息，开发者 Pedro Vieito 于 2 天前在 Thread 平台发布动态，表示 macOS 版 ChatGPT 应用会以纯文本方式存储用户对话，OpenAI 公司今天回应称已更新其应用，对存储在 Mac 设备上的聊天记录进行了加密处理。IT之家 6 月 26 日报道，OpenAI 公司发布了适用于苹果 macOS 系统的 ChatGPT 聊天机器人应用程序。OpenAI 称，macOS 版 ChatGPT 将无缝集成用户日常操作，原生支持 Mac 系统，并提供方便的快捷键 (Opt

7/4/2024 7:29:10 AM

故渊

世界知识产权组织：过去十年中国生成式 AI 专利申请量居全球第一，远超美韩日

世界知识产权组织（WIPO）今日发布了最新的《生成式人工智能专利态势报告》。数据显示，2014 年至 2023 年，中国发明人申请的生成式人工智能专利数量最多，远超美国、韩国、日本和印度等国。2014 年至 2023 年，全球生成式人工智能相关的发明申请量达 54000 件，仅仅 2023 年一年就出现了超总数 1/4 的申请量。在此期间，中国的生成式人工智能发明超过 3.8 万件，是排名第二的美国的 6 倍。▲ 图源 WIPO中国公司和机构在生成式 AI 领域占据主导地位，在专利注册量前十名的单位中占据了 6 席

7/3/2024 4:53:21 PM

清源

OpenAI CEO 阿尔特曼：GPT-5 将带来“巨大飞跃”

OpenAI 公司的 GPT-5 模型一直备受关注，许多用户期待该公司会在春季更新活动中发布这款人工智能模型。然而，OpenAI 推出了新款旗舰产品 GPT-4o，该公司首席执行官山姆・阿尔特曼（Sam Altman）将其描述为“神奇”。根据 Aspen Ideas Festival 上的一次访谈，阿尔特曼提到，开发“GPT-5”还需要一些时间。“我们目前持乐观态度，但还有很多工作要做。”阿尔特曼表示。目前尚不清楚 GPT-5 的发布日期，但阿尔特曼表示它将是“巨大飞跃（significant leap forwa

7/1/2024 9:26:01 PM

远洋

人刚毕业，颠覆整个AI界：扒一扒Sora两带头人博士论文

看看这个时代最伟大 AI 学者的研究脉络。2024 年是生成式 AI 元年，才到 2 月，OpenAI 就用 Sora 把竞争推向了视频生成的新高度。我们都还记得初见 Sora 作品时受到的震撼，感叹其他竞争对手想要赶上 OpenAI，至少也得需要个半年到一年的时间。Sora 发布后，其开发团队自然也成为关注焦点，人们都想知道具有跨时代意义的 AI 技术是如何被开发出来的。DiT 模型作者谢赛宁曾表示：「他们每天基本不睡觉高强度工作了一年」。随着时间推移，答案正被慢慢揭晓。以下是 OpenAI 技术报告中，Sora

7/1/2024 3:29:00 PM

机器之心

微软 AI 部门 CEO：网上几乎所有内容都可免费用于 AI 训练，但也有灰色地带

随着生成式 AI 逐渐受到各界关注，部分争议问题也开始浮出水面。这其中最大的争议之一就是 AI 公司训练模型是否使用了受版权保护的内容，而也有部分作家、出版商或媒体公司等针对包括微软在内的生成式 AI 公司提起了一系列诉讼。微软 AI 部门新任命的首席执行官穆斯塔法・苏莱曼（Mustafa Suleyman）当地时间周四接受 CNBC 采访时，谈到了生成式 AI 从网络获取数据的问题。他的回复是：对于已经在网上公开的内容，自 90 年代以来，这些内容的社会契约就是“合理使用”，任何人都可以复制、重新创作、再现这些内

6/29/2024 7:22:14 AM

清源

OpenAI 与《时代》达成合作协议：可用其杂志内容训练 ChatGPT

感谢当地时间周四，《时代》杂志与 OpenAI 宣布，两家公司达成了一项多年内容授权协议和战略合作伙伴关系。OpenAI 可将《时代》的内容引入包括 ChatGPT 在内的产品。通过此次合作，OpenAI 将能够访问《时代》杂志过去 101 年来的海量档案中的当前、历史内容，以增强其产品并响应用户查询 —— 在 Time.com 上提供引文和原始来源的链接。作为协议的一部分，《时代》杂志将可以使用 OpenAI 的技术，为其受众开发新产品。据IT之家此前报道，去年 12 月，OpenAI 首席执行官阿尔特曼被《时代

6/28/2024 8:13:42 AM

清源

专给 ChatGPT“找茬”，OpenAI 训练 CriticGPT 模型以检索输出内容错误

感谢当地时间 27 日，OpenAI 宣布基于 GPT-4 训练了一个名为 CriticGPT 的模型，用于查找 ChatGPT 聊天机器人输出内容中的错误。它可以撰写评论，强调 ChatGPT 生成答案中不准确的地方。据介绍，CriticGPT 旨在协助人类 AI 训练员完成工作 —— 使用一种名为“从人类反馈中强化学习（IT之家注：Reinforcement Learning from Human Feedback，RLHF）”的技术来训练、改进 GPT-4 的回答。然而随着 ChatGPT 的准确性日益提升，

6/28/2024 7:10:36 AM

清源

人工智能冲击创意岗位，OpenAI 首席技术官：一些岗位本来就不该存在

人工智能就像一把达摩克利斯之剑，正威胁着越来越多的创意工作岗位。OpenAI 的首席技术官米拉・穆拉蒂 (Mira Murati) 上个月在达特茅斯大学 Thayer 工程学院的采访中表示：“一些创意岗位可能会消失。但也许它们本来就不应该存在 —— 如果产出内容质量不是很高的话。”OpenAI 的首席技术官表示：“我不是经济学家，但我确实预计许多工作将会发生变化。一些工作会消失，一些新的工作将会产生。”这位 OpenAI 高管预见到人工智能将自动化重复性的工作和任务，创意岗位也岌岌可危。使用人工智能创作歌曲、撰写文

6/27/2024 7:29:29 AM

远洋

OpenAI 突然断供中国！商汤推出0成本“搬家服务”，还送大礼包

6月25日，商汤科技宣布推出大模型0元购计划，即日起成为商汤“日日新SenseNova”新注册企业用户，将获得涉及调用、迁徙、训练等多项免费服务大礼包，0元GO！“日日新SenseNova”平台覆盖商量大语言模型、商量图文多模态大模型、秒画文生图大模型、语音大模型、向量模型等多类模型API接口，满足企业用户不同需求。商汤始终坚持AI原创，技术安全且自主可控，并自有商汤大装置SenseCore这类高效率、低成本、规模化的新一代AI基础设施，算力有保障。商汤将为“日日新SenseNova”新注册企业用户赠送5000万T

6/26/2024 4:48:00 PM

新闻助手

今天起，全球所有Mac用户可免费安装桌面版ChatGPT

Mac 用户比 Windows 用户先行一步。刚刚，OpenAI 宣布推出适用于 macOS 的应用程序。虽然 Mac 应用程序尚未在 Mac App Store 中提供，但用户可以直接从 OpenAI 网站下载。（下载地址：）本月早些时候，苹果在 WWDC 2024 上宣布正在将 ChatGPT 集成到 iOS 18、iPadOS 18 和 macOS Sequoia 内的体验中，使用户无需在工具之间跳转即可访问 ChatGPT，包括图像和文档理解功能。在 macOS 上，用户在安装新的 ChatGPT 应用程序

6/26/2024 2:35:00 PM

机器之心

OpenAI 断供中国大陆市场，零一万物 Yi API 二折平替 GPT-4o

6月25日，有多名开发者收到了来自 OpenAI 的公告，公告中显示，OpenAI 将于7月9日开始封锁来自非支持国家和地区的 API 流量。在 OpenAI 给出的“支持访问国家和地区”名单上（），中国大陆、中国香港等地均未在列。在审视 OpenAI 与中国大陆市场互动的历史脉络时，可以观察到其一贯持有的审慎姿态。

6/26/2024 10:52:00 AM

我在思考中