红队

OpenAI 发布 GPT-4o 模型卡：概述 AI 安全和风险缓解措施

OpenAI 公司于 8 月 8 日发布报告，概述了 GPT-4o 模型的系统卡（System Card），介绍了包括外部红队（模拟敌人攻击）、准备框架（Preparedness Framework）在内的诸多细节。OpenAI 表示 GPT-4o 模型的核心就是准备框架（Preparedness Framework），这是一种评估和降低人工智能系统相关风险的系统方法。AI在线从报道中获悉，该框架主要用于识别网络安全、生物威胁、说服和模型自主性等领域的潜在危险。除了针对 GPT-4 和 GPT-4V 进行的安全评估

8/10/2024 11:54:54 AM

故渊

资讯热榜

国内首个，MiniMax 大模型通过人机辩论图灵测试逆天!旧Mac上能run千亿参数SOTA!效果惊人:一次生成游戏，0修改！本地大模型拐点来了!网友：别被大模型叙事带偏了(附指南）小学都看得懂！帮你快速了解 Tool、MCP 和 Agent 的基础科普刚刚，OpenAI推出学习模式，AI教师真来了，系统提示词已泄露 ChatGPT大更新推出学习模式！“一夜之间1000个套壳应用又死了” 阶跃星辰新一代基础大模型 Step 3 正式开源：拥有强大视觉感知和复杂推理能力 CAPTCHA 拦不住 AI 了：ChatGPT 可绕过 Cloudflare 人机验证系统多项力压 Grok 4、OpenAI o3，谷歌推出 Gemini 2.5 Deep Think 模型

标签云

AI 人工智能 OpenAI AIGC 模型 ChatGPT DeepSeek AI绘画谷歌机器人数据大模型 Midjourney 开源智能用户 Meta 微软 GPT 学习技术图像 Gemini AI创作马斯克论文智能体英伟达 Anthropic 代码算法训练 Stable Diffusion 芯片蛋白质开发者腾讯生成式 LLM 苹果 Claude 神经网络 AI新词 3D Agent 机器学习研究生成 AI for Science xAI 计算人形机器人 AI视频 Sora GPU AI设计百度华为搜索大语言模型工具场景 RAG 字节跳动具身智能大型语言模型预测深度学习伟达视觉 Transformer AGI 视频生成神器推荐亚马逊 Copilot DeepMind 架构模态安全