AIGC宇宙 AIGC宇宙

OpenAI 首席战略官 Jason Kwon:不会一夜之间突然发布一个“包罗万象”的 AI

作者:清源
2024-08-15 08:51
韩媒“Chosun Ilbo”当地时间周二公布了 8 月 7 日对 OpenAI 首席战略官 Jason Kwon 的采访内容。Jason Kwon 负责监督 OpenAI 未来的战略制定,处理围绕 AI 的伦理和法律问题,同时也参与技术开发。图源 PexelsAI在线汇总对话主要内容如下:Jason Kwon 认为,关键技术发展到通用人工智能(AGI)可能还需几年时间。“我们内部假设这可能比预期更快到来,因此正在相应地准备安全措施。”尽管业界认为 AGI 可能在三到五年之间出现,但 Jason Kwon 认为这一

韩媒“Chosun Ilbo”当地时间周二公布了 8 月 7 日对 OpenAI 首席战略官 Jason Kwon 的采访内容。Jason Kwon 负责监督 OpenAI 未来的战略制定,处理围绕 AI 的伦理和法律问题,同时也参与技术开发。

OpenAI 首席战略官 Jason Kwon:不会一夜之间突然发布一个“包罗万象”的 AI

图源 Pexels

AI在线汇总对话主要内容如下:

Jason Kwon 认为,关键技术发展到通用人工智能(AGI)可能还需几年时间。“我们内部假设这可能比预期更快到来,因此正在相应地准备安全措施。”尽管业界认为 AGI 可能在三到五年之间出现,但 Jason Kwon 认为这一时间点会更早到来

但他同时也表示:“我们不会一夜之间突然发布一个包罗万象的 AI。”,因为要避免重大的社会冲击。尽管 AGI 技术的发展已经相当先进,其进展却被谨慎管理,以防止潜在的负面后果。“我们假设这种技术很快会实现,并正在寻找适当的管理方式。然而,技术的存在并不意味着它会立即成为产品。这类似于电的发明后,灯具和电器并不是第二天就出现了。核心技术的发展与其在社会中的应用之间可能存在很长的时间延迟。”

当谈到“人类是否有能力应对 AGI 带来的潜在威胁”时,Jason Kwon 认为,没有人确切知道 AGI 何时会到来,但企业需要做好准备。“我的工作是提供关于 AGI 潜在心理和经济影响的见解,为必要的法律提供建议,并指导企业如何与全球政府合作。我们一直认为 AI 应该受到监管,这一承诺始终未变。”

相关标签:

相关资讯

Just keep scaling!思维链作者Jason Wei 40分钟讲座剖析LLM扩展范式

关注 AI 领域的人对 Jason Wei 这个名字一定不陌生。 他是 OpenAI 的一位资深研究科学家,也常在 OpenAI 的发布活动中露脸。 更重要的是,他是思维链概念开山之作《Chain-of-Thought Prompting Elicits Reasoning in Large Language Models》的第一作者。
1/4/2025 5:50:00 PM
机器之心

前员工爆料,OpenAI AGI 安全团队已流失近半成员

OpenAI 一直致力于开发能够造福全人类的人工智能技术,然而最近的一份报告揭示了一个令人担忧的现象:近一半曾专注于超级智能 AI 长期风险的研究人员已经离开了这家公司。图源 Pexels据 Fortune 报道,OpenAI 前治理研究员 Daniel Kokotajlo 表示,在过去几个月里,OpenAI 几乎一半的 AGI 安全团队成员已经离职。这引发了外界对公司是否正在忽视 AI 安全性的担忧。AGI 安全研究人员主要负责确保未来开发的 AGI 系统不会对人类构成生存威胁。然而,随着 OpenAI 越来越专
8/30/2024 9:40:02 AM
远洋

前 OpenAI “AGI 准备工作”负责人:AI 将很快完成人类在计算机上能做的一切

据《商业内幕(Business Insider)》当地时间 3 日报道,OpenAI 前政策研究与“AGI (AI在线注:通用人工智能)准备工作”负责人 Miles Brundage 表示,未来几年行业可能会开发出“几乎能够远程完成”人类能通过计算机操作的所有任务的系统,包括使用鼠标和键盘,甚至在视频聊天中呈现出“人类形象”。 对于 OpenAI 等公司来说,开发具备 AGI 的机器的时间表是业内广泛关注的热点话题。 一些领域中的重要人物相信,这项技术将在未来数年内到来。
11/4/2024 10:24:31 PM
清源
  • 1