AIGC宇宙 AIGC宇宙

OpenAI 投资新创公司 力求阻止 AI 生物武器的威胁

OpenAI 近日宣布,已对一家名为 Red Queen Bio 的新创公司进行了投资,目的是阻止人工智能被恶意用于制造生物武器。 OpenAI 成为该公司1500万美元种子轮融资的领投方。 Red Queen Bio 由 Hannu Rajaniemi 共同创立,其核心使命是确保人工智能行业在防御能力方面能够与潜在的威胁同步提升。

OpenAI 近日宣布,已对一家名为 Red Queen Bio 的新创公司进行了投资,目的是阻止人工智能被恶意用于制造生物武器。OpenAI 成为该公司1500万美元种子轮融资的领投方。Red Queen Bio 由 Hannu Rajaniemi 共同创立,其核心使命是确保人工智能行业在防御能力方面能够与潜在的威胁同步提升。

OpenAI,人工智能,AI

这笔投资是 OpenAI 在风险管控领域更广泛布局的一部分。上个月,OpenAI 还曾投资生物安全软件公司 Valthos。OpenAI 的首席战略官 Jason Kwon 表示,未来将考虑支持更多类似的创业公司。他认为,提升整个行业的抗风险能力,最有效的途径之一就是通过技术创新。

业内专家指出,尽管人工智能技术在药物开发和疫苗设计中展现了巨大潜力,但同样可能被不法分子利用,开发出新型且更具威胁性的生物武器。Red Queen Bio 的成立源于 mRNA 治疗公司 Helix Nano 的拆分,Helix Nano 已经在药物设计中广泛运用了人工智能,并与 OpenAI 进行 AI 生物风险测试的合作。

在此次交易中,OpenAI 的首席执行官 Sam Altman 和董事 Nicole Seligman 将获得 Red Queen Bio 的股份,但他们并未参与具体的投资决策。公司发言人指出,OpenAI 的首席合规官及未涉投资利益的董事会成员共同审查并批准了这项投资。

Red Queen Bio 将运用人工智能模型与传统实验室手段,识别新兴风险并研发全新的防御策略。值得一提的是,Red Queen 这一名称源自路易斯・卡罗尔的名作《爱丽丝梦游仙境》,象征着生物能力的快速进步,提醒人们必须尽早研发防御措施。此外,Cerberus Ventures、Fifty Years 和 Halcyon Futures 等其他投资方也参与了本轮融资。

划重点:  

🌐 OpenAI 投资1500万美元于 Red Queen Bio,目标是阻止 AI 被用于制造生物武器。  

💡 Red Queen Bio 利用 AI 和传统手段识别新风险,研发防御策略。  

🔍 OpenAI 的首席战略官表示,技术创新是提升行业抗风险能力的关键。

相关资讯

​谷歌前 CEO 施密特警示:AI 可能被恐怖分子滥用,需加强监管

谷歌前首席执行官埃里克・施密特(Eric Schmidt)近日在接受 BBC 采访时表达了他对人工智能(AI)技术潜在风险的担忧。 他指出,恐怖分子和 “流氓国家” 可能利用 AI 技术来危害无辜的人们,尤其是制造生物武器的可能性。 图源备注:图片由AI生成,图片授权服务商Midjourney施密特提到,朝鲜、伊朗和俄罗斯等国家可能会采用这一新兴技术来实施恶意行为。
2/13/2025 11:00:00 AM
AI在线

OpenAI o3 模型运行成本估算大幅上调:单次任务从 3000 美元涨至 3 万美元

Arc Prize Foundation 大幅上调 OpenAI o3 模型运行成本估算,从 3000 美元涨至 3 万美元。高昂成本凸显 AI 模型特定任务的高成本难题,控制成本成行业挑战。##AI模型成本##
4/3/2025 7:59:45 AM
远洋

o1 研发团队完整采访:Ilya早期曾参与,灵感源于AlphaGo

自从 OpenAI 的 o1 问世以来,它强大的推理能力就承包了 AI 圈近期的热搜。不需要专门训练,它就能直接拿下数学奥赛金牌,甚至可以在博士级别的科学问答环节上超越人类专家。展示 o1 实力的 demo,我们看了不少,评估 o1 表现的评测,全网比比皆是,关于 o1 技术路线的讨论也如火如荼,引发了广泛的关注和深入的思考。不过 o1 背后的故事,还鲜为人知,那些在幕后默默付出的团队成员们,他们的故事同样值得被讲述和铭记。刚刚,OpenAI 发布了 o1 研发团队的完整访谈,为我们揭秘了 o1 的「成长历程」。o
9/22/2024 1:27:00 PM
机器之心
testab