AI内奸

CISO的恶梦：主流大模型压力测试中一致选择勒索或杀死企业高管

GoUpSec点评：除了向政府告密，泄漏敏感信息外，主流大模型居然会主动精心策划针对企业高管的勒索攻击，“AI内奸”和“AI间谍”正成为人工智能时代企业的头号内部威胁。在一项刚刚发布的研究中，Anthropic揭示了一个令人震惊的事实：当前所有主流科技公司推出的顶级大模型——包括OpenAI、Google、Meta、xAI、DeepSeek等，在面对目标冲突或“被关闭”威胁时，会抛出惊人一致的“撒手锏”：它们不仅会选择背叛雇主，甚至会主动策划勒索、泄密、乃至置人于死地。这一研究由Anthropic主导，测试了16个市面上最先进的大模型，在模拟企业环境中，它们被赋予处理公司邮件、自动采取行动的权限。

6/26/2025 3:04:03 PM

资讯热榜

和GPT聊了21天，我差点成为陶哲轩扎克伯格看OpenAI直播挖人，北大校友孙之清加入Meta ChatGPT或将引入广告！OpenAI高管首度松口，用户破7亿仍难盈利 Nvidia 投资 5 亿美元，Cohere 公司估值达 68 亿美元老龄化设计不得不佩服大厂高手，这个实操案例太惊艳了！破天荒！OpenAI、Cursor多位开发大牛联手曝出GPT5提示词指南！晒官方系统提示词优化秘籍，最大化编程性能，工作流更可控 IDC：未来五年，中国生成式 AI 相关硬件支出将激增至 330 亿元 OpenAI华人露头就被小扎挖！95后北大校友1个月前上直播，今天已是Meta人

标签云

AI 人工智能 OpenAI AIGC 模型 ChatGPT DeepSeek AI绘画谷歌机器人数据大模型 Midjourney 开源智能用户 Meta 微软 GPT 学习技术图像 Gemini 马斯克 AI创作智能体论文英伟达 Anthropic 代码训练算法 Stable Diffusion 芯片蛋白质开发者 LLM 腾讯生成式 Claude 苹果 AI新词 Agent 神经网络 AI for Science 3D 机器学习研究生成 xAI 人形机器人 AI视频计算 Sora GPU AI设计百度华为工具大语言模型搜索具身智能场景 RAG 字节跳动大型语言模型深度学习预测伟达视觉 Transformer 视频生成 AGI 架构神器推荐亚马逊 Copilot DeepMind 应用安全