信息论

揭开大模型的秘密！那些 “思考词” 背后藏着惊人的信息量

近日，来自中国人民大学、上海人工智能实验室、伦敦大学学院和大连理工大学的研究团队揭示了大模型推理过程中的一个重要发现:当模型在思考时，所使用的 “思考词” 实际上反映了其内部信息量的显著提升。这一研究成果通过信息论的方法，为我们更好地理解人工智能的推理机制提供了新的视角。论文地址：，会输出一些看似人类化的语言，比如 “嗯……”、“让我想想……” 或 “因此……”。

7/5/2025 7:46:41 AM

AI在线

资讯热榜

标签云

人工智能 AI OpenAI AIGC 模型 ChatGPT DeepSeek AI绘画谷歌数据机器人大模型 Midjourney 开源用户智能 Meta 微软 GPT 学习图像技术 Gemini AI创作马斯克论文 Anthropic 代码英伟达算法 Stable Diffusion 智能体训练芯片开发者蛋白质生成式腾讯苹果 AI新词神经网络 3D LLM Claude 研究生成机器学习计算 AI for Science Sora 人形机器人 AI视频 xAI AI设计 GPU 华为百度搜索 Agent 大语言模型场景字节跳动预测大型语言模型深度学习工具伟达 Transformer 视觉 RAG 具身智能神器推荐亚马逊 Copilot 模态 AGI LLaMA 文本算力驾驶