AIGC宇宙 AIGC宇宙

上下文

Anthropic 用 256 轮对话「灌醉」大模型，Claude 被骗造出炸弹

Anthropic 用 256 轮对话「灌醉」大模型，Claude 被骗造出炸弹
【新智元导读】Anthropic 发现了大模型的惊人漏洞。经过 256 轮对话后，Claude 2 逐渐被「灌醉」，开始疯狂越狱，帮人类造出炸弹！谁能想到，它的超长上下文，反而成了软肋。大模型又被曝出安全问题？这次是长上下文窗口的锅！今天，Anthropic 发表了自己的最新研究：如何绕过 LLM 的安全限制？一次越狱不够，那就多来几次！论文地址： Claude3 一家叫板 OpenAI 之余，Anthropic 仍然不忘初心，时刻关注着他的安全问题。一般情况下，如果我们直接向 LLM 提出一个有害的问题，LLM
4/3/2024 1:36:17 PM
清源
致命幻觉问题、开发GPU替代品，大模型还面临这10大挑战

致命幻觉问题、开发GPU替代品，大模型还面临这10大挑战
ChatGPT、GPT-4 等的发布，让我们在见识到大模型（LLM）的魅力后，伴随而来的是其所面临的各种挑战。如何让 LLM 变得更好？面对大模型，到底有哪些需要解决的问题？成为 AI 领域重要的研究课题。
8/27/2023 8:28:00 PM
机器之心
将上下文长度扩展到 256k，无限上下文版本的OpenLLaMA来了？

将上下文长度扩展到 256k，无限上下文版本的OpenLLaMA来了？
大语言模型处理上下文 token 的能力，是越来越长了。
7/10/2023 2:23:00 PM
机器之心
  • 1