语义

聊天机器人胡说八道？牛津研究人员利用语义熵来识破 AI“幻觉”

近年来，人工智能蓬勃发展，聊天机器人等应用逐渐普及，人们可以通过简单的指令从这些聊天机器人（例如 ChatGPT）获取信息。然而，这些聊天机器人仍然容易出现“幻觉”问题，即提供错误的答案，有时甚至是危险的信息。图源 Pexels造成“幻觉”的原因之一是训练数据不准确、泛化能力不足以及数据采集过程中的副作用。不过，牛津大学的研究人员另辟蹊径，在最新出版的《自然》杂志上详细介绍了一种他们新开发的方法，用于检测大型语言模型 (LLMs) 的“捏造” (即任意生成的不正确信息) 问题。LLM 通过在训练数据中寻找特定模式来

6/24/2024 8:25:46 AM

远洋

有证据了，MIT表明：大型语言模型≠随机鹦鹉，确实能学到语义

大型语言模型能否捕捉到它们所处理和生成的文本中的语义信息？这一问题在计算机科学和自然语言处理领域一直存在争议。然而，MIT的一项新研究表明，仅基于文本形式训练、用于预测下一个token的语言模型确实能学习和表示文本的意义。

5/22/2023 2:33:00 PM

机器之心

资讯热榜

迎战软件3.0时代：新范式、新挑战、新工程历史性逆转!谷歌Gemini终结ChatGPT霸榜神话，登顶美区iOS免费榜姚顺雨离职OpenAI，开启下半场谷歌 AI 承包商裁员风波：200 多名员工因工作条件争议被解雇前 xAI 首席财务官加盟 OpenAI，担任新任业务财务官 OpenAI 计划将与微软收入分成比例大幅降低，预计新增 500 亿美元收入 OpenAI新幻觉论文惹争议！GPT-5拉胯是测试基准有问题？？ AI解数学题只靠最后一个token

标签云

AI 人工智能 OpenAI AIGC 模型 ChatGPT DeepSeek 谷歌 AI绘画机器人数据大模型 Midjourney 开源智能 Meta 用户微软 GPT 学习技术 AI新词图像 Gemini 智能体马斯克 AI创作 Anthropic 英伟达论文训练代码算法 LLM Stable Diffusion 芯片腾讯苹果蛋白质 AI for Science Claude 开发者 Agent 生成式神经网络机器学习 3D xAI 研究人形机器人生成 AI视频百度工具计算 GPU 大语言模型 Sora 华为 RAG 具身智能 AI设计字节跳动搜索大型语言模型场景 AGI 深度学习视频生成预测视觉伟达架构 Transformer 编程神器推荐 DeepMind 亚马逊特斯拉 AI模型