可调控特征
OpenAI 揭示 AI 模型内部特征:可调控 “毒性” 行为助力安全 AI 开发
近日,OpenAI 发布了一项重要研究,揭示了人工智能(AI)模型内部存在的可调控特征,这些特征与模型的异常行为密切相关。 研究人员通过对 AI 模型内部表征的分析,发现了一些模式,这些模式在模型表现出不当行为时会被激活。 研究显示,某些特征与 AI 模型的有害行为,如撒谎或提供不负责任的建议,直接相关。
6/19/2025 2:01:28 PM
AI在线
- 1
资讯热榜
标签云
人工智能
AI
OpenAI
AIGC
模型
ChatGPT
DeepSeek
AI绘画
谷歌
数据
机器人
大模型
Midjourney
开源
智能
用户
Meta
微软
GPT
学习
技术
图像
Gemini
AI创作
马斯克
论文
Anthropic
代码
英伟达
算法
Stable Diffusion
智能体
训练
芯片
开发者
蛋白质
生成式
腾讯
苹果
AI新词
神经网络
3D
LLM
Claude
研究
生成
机器学习
计算
AI for Science
Sora
人形机器人
AI视频
xAI
AI设计
GPU
华为
百度
搜索
Agent
大语言模型
场景
字节跳动
预测
大型语言模型
深度学习
工具
伟达
视觉
Transformer
RAG
具身智能
神器推荐
亚马逊
Copilot
模态
AGI
LLaMA
文本
算力
驾驶