OpenAI 推出 Model Spec 拟议框架，探索生成 NSFW 内容等 AI 响应规范

2024-05-09 08:58

OpenAI 公司近日发布名为 Model Spec 的拟议框架初稿，希望能够规范 AI 模型和工具（例如 GPT-4）未来的响应方式。OpenAI 提出了三个普适原则：AI 模型应遵循相关规范，协助开发者和终端用户并提供有用响应考虑潜在利益和危害的情况下造福人类响应应符合社会道德或者相关法律OpenAI 还提出了其它几条原则：遵循指挥系统遵守适用法律不提供信息危害尊重创作者及其权利保护人们的隐私不回复 NSFW（工作场所不宜）内容OpenAI 表示之所以倡导并推行该框架，其目的是让企业和用户切换 AI 模型的“辛

OpenAI 公司近日发布名为 Model Spec 的拟议框架初稿，希望能够规范 AI 模型和工具（例如 GPT-4）未来的响应方式。

OpenAI 提出了三个普适原则：

AI 模型应遵循相关规范，协助开发者和终端用户并提供有用响应

考虑潜在利益和危害的情况下造福人类

响应应符合社会道德或者相关法律

OpenAI 还提出了其它几条原则：

遵循指挥系统

遵守适用法律

不提供信息危害

尊重创作者及其权利

保护人们的隐私

不回复 NSFW（工作场所不宜）内容

OpenAI 表示之所以倡导并推行该框架，其目的是让企业和用户切换 AI 模型的“辛辣”（spicy）程度。以 NSFW 内容为例，OpenAI 表示在负责任的前提下，正在 API 和 ChatGPT 中探索生成适合某些语境下的 NSFW 内容。

OpenAI 推出 Model Spec 拟议框架，探索生成 NSFW 内容等 AI 响应规范

IT之家附上参考地址

Model Spec

o1 研发团队完整采访：Ilya早期曾参与，灵感源于AlphaGo

自从 OpenAI 的 o1 问世以来，它强大的推理能力就承包了 AI 圈近期的热搜。不需要专门训练，它就能直接拿下数学奥赛金牌，甚至可以在博士级别的科学问答环节上超越人类专家。展示 o1 实力的 demo，我们看了不少，评估 o1 表现的评测，全网比比皆是，关于 o1 技术路线的讨论也如火如荼，引发了广泛的关注和深入的思考。不过 o1 背后的故事，还鲜为人知，那些在幕后默默付出的团队成员们，他们的故事同样值得被讲述和铭记。刚刚，OpenAI 发布了 o1 研发团队的完整访谈，为我们揭秘了 o1 的「成长历程」。o

9/22/2024 1:27:00 PM

机器之心

LeCun批评o1根本不像研究，Noam Brown回怼：已发表的研究都是废话

图灵奖三巨头之一 Yann LeCun 又和别人吵起来了，这次是 Noam Brown。Noam Brown 为 OpenAI o1 模型的核心贡献者之一，此前他是 Meta FAIR 的一员，主导了曾火遍一时的 CICERO 项目，在 2023 年 6 月加入 OpenAI 。这次吵架的内容就是围绕 o1 展开的。众所周知，从 AI 步入新的阶段以来，OpenAI 一直选择了闭源，o1 的发布也不例外。这也引来了广大网友的吐槽，干脆叫 CloseAI 算了，反观 Meta，在开源领域就做的很好，o1 的发布，更

9/30/2024 2:12:00 PM

机器之心