近日，OpenAI 宣布暂停其 AI 视频生成模型 Sora 对马丁・路德・金（Martin Luther King Jr.）的肖像生成。这一决定是应马丁・路德・金遗产管理处的请求而做出的，原因在于用户在 Sora 上生成了一些 “失礼” 的视频内容。
OpenAI 在其社交媒体平台 X 上发布声明称:“虽然描绘历史人物的言论自由是重要的，但我们认为公众人物及其家属应该最终控制他们肖像的使用。” 此外，相关授权代表或遗产所有者可以请求禁止在 Sora 平台上使用他们的肖像。
该限制出台之际，正值 OpenAI 刚刚推出其社交视频平台 Sora。用户可以在此平台上创造与历史人物、朋友或自愿提供肖像的用户相似的真实感 AI 视频。然而，Sora 的发布引发了关于 AI 生成视频的安全性以及如何在技术上实施保护措施的激烈讨论。
马丁・路德・金的女儿伯尼斯・金（Bernice King）上周在 Instagram 上呼吁人们停止发送她父亲的 AI 视频。她的呼声与罗宾・威廉姆斯的女儿的观点一致，后者也要求 Sora 用户停止生成关于她父亲的 AI 视频。根据《华盛顿邮报》的报道，Sora 用户曾生成了金博士发出猴叫声和与马尔科姆・X 摔跤的 AI 视频。
除马丁・路德・金外，Sora 上还出现了许多其他历史人物的粗俗视频，包括艺术家鲍勃・罗斯、歌手惠特尼・休斯顿和前总统约翰・F・肯尼迪等。马丁・路德・金遗产管理处的许可方尚未对此事作出回应。
自 Sora 推出以来，OpenAI 还增加了其他限制。例如，10月初，该公司表示将为版权持有者提供更细致的控制权限，以管理与其肖像相关的 AI 视频生成内容。尽管如此，在 ChatGPT 的内容管理上，OpenAI 似乎采取了更放松的方式，近日还宣布将允许成人用户与 ChatGPT 进行 “情色” 聊天。
OpenAI 在推出 Sora 时，显然在应对 AI 视频生成带来的各种担忧。OpenAI 首席执行官萨姆・阿尔特曼（Sam Altman）表示，公司在推出当天对 Sora 感到 “忐忑不安”。OpenAI 正通过将新技术投放市场来探索如何更好地分配这一技术。
划重点:
🌟 OpenAI 暂停生成马丁・路德・金的视频，以回应其遗产管理处的请求。
🤖 Sora 平台上用户生成了一些不当视频，引发公众担忧。
🔒 OpenAI 承诺将为版权持有者提供更细致的内容管理控制。
