应用

15 个 AI 模型只有 3 个得分超 50%，SIUO 跑分被提出：评估多模态 AI 模型的安全性

最新发表在 arXiv 的研究论文指出，包括 GPT-4V、GPT-4o 和 Gemini 1.5 在内的大部分主流多模态 AI 模型，处理用户的多模态输入（例如一起输入图片和文本内容）之后，输出结果并不安全。这项研究标题为《跨模态安全调整》（Cross-Modality Safety Alignment），提出了一个全新的“安全输入但不安全输出”（SIUO），涉及道德、危险行为、自残、侵犯隐私、信息误读、宗教信仰、歧视和刻板印象、争议性话题以及非法活动和犯罪等 9 个安全领域。研究人员说，大型视觉语言模型（LVL

6/25/2024 9:12:58 AM

故渊

如何让AI工具更有人情味？大厂实战案例复盘！

随着人工智能技术的不断发展，AI 工具在各个场景的应用越来越广泛。培训领域也不例外，通过 AI 模拟客户，AI 培训工具能够帮助销售人员更加真实地掌握客户需求，提高沟通技巧和销售能力。然而，要提高这类工具的使用体验，「人性化」成为重要指标。高度人性化的 AI 工具，不仅能建立用户信任感和安全感，也能提升使用效率，从而大幅提升培训效果。本文将结合笔者的 58 实战项目——灵犀AI智能陪练机器人，探讨如何通过体验设计让AI工具体验更人性化。一、AI 如何人性化 AI 工具如何提升人性化呢？在回答这个问题前，先要思考一下

6/25/2024 7:42:54 AM

团队58UXD

Midjourney 出图效果总比别人差？看看是不是这3点没做好！

大家好，我是花生~ 很多小伙伴都会在「优设 AI 绘画交流群」以及文章评论区中非常积极地和我探讨 Midjourney 的使用问题，我在帮助大家的同时自己也学到了不少新的技巧。今天就写一篇文章解释 3 个比较常见的疑问，希望对大家有帮助。相关推荐：一、人物面部模糊问题描述：在生成人物全身图的时候，面部很模糊，五官特别是眼睛看着很不自然。尝试过垫图、生成变体、局部重绘等方式，都没有办法修复这个问题。生成人物全身图时面部效果差是一个目前 Midjourney 的真实短板之一，很多用户都向官方反馈了这个问题，而针对它

6/25/2024 7:03:57 AM

夏花生

PixVerse 王炸更新！AI视频必备「运动笔刷」详解

上一篇写了 Pixverse 基础功能，大家都在催更，最近制作了七部 AIGC 短片，算是深度使用了多款 AI 视频工具，其中 AIGC 短片《星际漂流》视频部分全部是由 Pixverse 制作的，并且获得了英伟达 Artist100 艺术家获奖作品。最近 Pixverse 重磅更新 Magic Brush「运动笔刷」，六个笔刷，秒变神笔马良！接下来让我们一起来试一试吧。一、初步体验 1. 登录网址打开官网：进入全新更新的 PixVerse 主页，可以看到三种视频生成方式，这次我们选择中间「图生视频」按钮，

6/25/2024 6:00:47 AM

yaoyao

营销效果大幅提升，AIGC视频创作就该这么用

经过一年多的发展，AIGC 已经从文字对话、图片生成逐步向视频生成迈进。回想四个月前，Sora 的诞生让视频生成赛道经历了一场洗牌，大力推动了 AIGC 在视频创作领域的应用范围和深度。在人人都在谈论大模型的时代，我们一方面惊讶于视频生成带来的视觉震撼，另一方面又面临着落地难问题。诚然，大模型从技术研发到应用实践还处于一个磨合期，仍需结合实际业务场景进行调优，但理想与现实的距离正在被逐步缩小。营销作为人工智能技术的重要落地场景，成为了很多企业及从业者想要突破的方向。掌握了恰当方法，营销视频的创作过程就会事半功倍。如

6/24/2024 3:03:00 PM

机器之心

《Python 机器学习》作者新作：从头开始构建大型语言模型，代码已开源

自 ChatGPT 发布以来，大型语言模型（LLM）已经成为推动人工智能发展的关键技术。近期，机器学习和 AI 研究员、畅销书《Python 机器学习》作者 Sebastian Raschka 又写了一本新书 ——《Build a Large Language Model (From Scratch)》，旨在讲解从头开始构建大型语言模型的整个过程，包括如何创建、训练和调整大型语言模型。最近，Sebastian Raschka 在 GitHub 上开源了这本新书对应的代码库。项目地址： LLM 来说，指令微调能够有效

6/24/2024 10:53:00 AM

机器之心

研究发现，OpenAI 的 GPT-4o 道德推理能力胜过人类专家

近期的一项研究表明，OpenAI 最新的聊天机器人 GPT-4o 能够提供道德方面的解释和建议，且质量优于“公认的”道德专家所提供的建议。据 The Decoder 当地时间周六报道，美国北卡罗莱纳大学教堂山分校和艾伦 AI 研究所的研究人员进行了两项研究，将 GPT 模型与人类的道德推理能力进行比较，以探讨大语言模型是否可被视为“道德专家”。IT之家汇总研究内容如下：研究一501 名美国成年人对比了 GPT-3.5-turbo 模型和其他人类参与者的道德解释。结果表明，人们认为 GPT 的解释比人类参与者的解释更

6/24/2024 8:27:01 AM

清源

聊天机器人胡说八道？牛津研究人员利用语义熵来识破 AI“幻觉”

近年来，人工智能蓬勃发展，聊天机器人等应用逐渐普及，人们可以通过简单的指令从这些聊天机器人（例如 ChatGPT）获取信息。然而，这些聊天机器人仍然容易出现“幻觉”问题，即提供错误的答案，有时甚至是危险的信息。图源 Pexels造成“幻觉”的原因之一是训练数据不准确、泛化能力不足以及数据采集过程中的副作用。不过，牛津大学的研究人员另辟蹊径，在最新出版的《自然》杂志上详细介绍了一种他们新开发的方法，用于检测大型语言模型 (LLMs) 的“捏造” (即任意生成的不正确信息) 问题。LLM 通过在训练数据中寻找特定模式来

6/24/2024 8:25:46 AM

远洋

B 端设计指南：9000字深度聊聊AI如何结合B端产品

AI，这是一个在过去两年被反复提起的一个词，我们由最初的满怀期待到现在听到 AI 就焦虑，感觉自己很快会被淘汰。而时间的推移，你会发现很多人都在去讨论：“AI 能取代设计师吗？AI 能取代程序员吗？”最初我们都在期望 AI 帮我们解决洗衣做饭等问题的时候，没想到我们的饭碗没了。两年的时间过去，AI 在不断的颠覆迭代，对我们设计流程会造成哪些影响？对我们 B 端设计又会有哪些机会？今天我们就由浅入深的聊聊 AI。一、AI 产品的解析我们想要理解 AI 产品，首先必须得了解其对应的流程以及产品的类型. 目前 AI

6/24/2024 12:53:02 AM

CE青年

如何写好AI绘画提示词？保姆级教程来了！

提示词编辑是一个结构化的过程，用能被人类解释和理解的词语来描述图像，也就是告诉人工智能模型应该怎么绘制图片。生成优质图像的秘诀提示词要想编辑好，包括修饰词和好的句子结构，首先你要了解所有的修饰词类型 Stable Diffusion 中的参数都是经过精心设计，可以使用默认的参数设置，但是结合你的需求去微调参数会产生更好的效果，这才是将创意梦幻图像变为现实的秘密。一、提示词格式在绘制之前，首先写下一些问题： ① 你想要的是照片还是画作？ ② 照片的主题是什么？人？动物？还是风景？ ③ 你想要补充哪些细节？布光方式：柔

6/24/2024 12:05:55 AM

BananaStudio

万字干货！11个章节深度思考人工智能体验设计

原文引自 Maximillian Piras 的文章《When Words Cannot Describe: Designing For AI Beyond Conversational Interfaces》。该译文并非完整原文，内容已做删减和调整。人工智能的不断发展给设计师打造更直观的用户界面创造了机会。基于文本的大型语言模型解锁了许多新的可能性，因此许多人认为从图形界面转向诸如聊天机器人之类的对话界面是一种必然。然而，有大量证据表明，对许多交互模式来说，对话界面并不理想。Maximillian Piras

6/23/2024 12:43:25 AM

生成式 AI“上车”，大众高尔夫、途观、帕萨特等海外版车型现已支持 ChatGPT

当地时间 21 日，大众汽车宣布配备新一代信息娱乐系统的车型现已加入对 ChatGPT 的支持。在欧洲地区，引入 ChatGPT 的车型包括纯电动 ID.系列、新款高尔夫、新款途观、新款帕萨特，用户可通过车辆内置 IDA 语音助手访问 ChatGPT。据介绍，AI“上车”之后带来的体验远远超出以往，用户可以要求汽车直接读出搜索结果，或使用自然语言与汽车进行交互。例如，接入 ChatGPT 的车机可以提供旅游景点信息、报道过去的足球比赛或帮助解决数学问题。驾驶员只需用自然语言与助手交谈，无需将视线从道路上移开。与现有

6/22/2024 12:05:43 PM

清源

有望发力搜索领域，OpenAI 收购数据库分析公司 Rockset

当地时间 6 月 21 日，OpenAI 宣布完成了对数据库检索和分析公司 Rockset 的收购。公司将整合 Rockset 的技术和人员，强化各项产品的检索基础设施。OpenAI 在新闻稿中强调，AI 将有机会改变人们组织、利用自身数据的方式，这便是公司收购 Rockset 的原因。后者是一个提供“世界级”的数据索引、查询功能的实时分析数据库。据悉，Rockset 将使用户、开发人员和企业能够更好地利用自己的数据，并在使用 AI 产品和构建更智能的应用程序时访问实时信息。OpenAI 首席运营官 Brad Li

6/22/2024 9:33:34 AM

清源

OpenAI 首席技术官：GPT-5 将在一年半后发布，部分领域智能达到“博士”级别

美国达特茅斯工程学院本周四公布了对 OpenAI 首席技术官米拉・穆拉蒂的采访。穆拉蒂把 GPT-4 到 GPT-5 的飞跃描述为从高中生到博士生的成长。图源 Pexels“如果你看一下（GPT）进化的轨迹，像 GPT-3 这样的系统可能只有幼儿智力水平，而像 GPT-4 这样的系统则更像是聪明的高中生智力水平，在接下来的几年里，我们期待在特定任务上达到博士的智力水平。事情正在飞速变化、改善。”穆拉蒂强调“博士级”的智能仅适用于某些任务。“这些系统在特定任务中已经达到了人类水平（Human-level），当然，在许

6/22/2024 8:20:43 AM

清源

8500字干货！生成式AI助手设计指南（上篇）

一、前言自 2022 年 11 月 ChatGPT 横空出世以来，世界好像被颠覆了。各类生成式 AI 迅猛发展，其中生成式 AI 助手以其独特的创造力和智能性，重新定义了许多产品的使用方式。它通过先进的自然语言处理技术，不仅能理解用户的指令和问题，还能生成回答、撰写文本、甚至创作内容，拓展了人机交互的边界，带给人们极大的便利。全球的技术巨头和创新型初创公司都纷纷投身于生成式 AI 这一必争之地，各大厂商都在积极探索如何将生成式 AI 助手融入到自己的产品和服务中。本文将从 UX 设计的角度，拆解生成式 AI

6/22/2024 3:13:52 AM

团队58UXD

一手测评Claude 3.5：玩梗、看病、耍心眼、做数学题，它真比GPT-4o强吗？

机器之能报道编辑：杨文玩梗、看病、耍心眼、做数学题，「新王」Claude 3.5能力真那么玄乎？它来了，它来了，它带着 Claude 3.5 Sonnet 走来了！蛰伏三个月，就在昨晚，OpenAI 的「劲敌」Anthropic 上新了，推出新一代模型 ——Claude 3.5 Sonnet！这款大模型有啥独到之处？首先，它更能把握住细微差别、幽默和复杂指令，并且书写语气更自然、亲切。它还是Anthropic最强的视觉模型，擅长解释图表、图形或者从不完美的图像中转录文本等任务。此外，它在推理、阅读理解、数学、科学和

6/21/2024 6:02:00 PM

机器之能

ComfyUI 插件竟然包含病毒！做好这 5 点降低中招风险

大家好，这里是和你们一起探索 AI 的花生~ ComfyUI 是目前最受欢迎的开源 AI 绘画绘画工具之一，它具有极高的灵活性，只需安装对应的插件就可以自己搭建工作流，实现个性化出图或体验最新的 AI 模型。如果你是 ComfyUI 的深度用户，那么安装各类插件肯定是家常便饭了，不过最近出现的一起 ComfyUI 插件包含恶意病毒的事件，却让我们看到了开源社区自由繁荣背后的另一面，如果不提高防范意识，下一个受害的很可能就是我们自己。相关推荐：一、病毒插件 ComfyUI_LLMVISION 事情的起因是网友 @_

6/21/2024 8:01:31 AM

夏花生

OpenAI 竞争对手 Anthropic 发布其最强 AI 大模型 Claude 3.5

感谢IT之家网友 VrianCao、Diixx、我抢了台的线索投递！OpenAI 竞争对手 Anthropic 周四发布了其迄今为止最强大的 AI 模型 Claude 3.5 Sonnet。与 OpenAI 的 ChatGPT 和谷歌 Gemini 一样，Claude 在过去的一年里也是人气爆棚。Anthropic 由 OpenAI 前研发高管创立，赢得了谷歌、Salesforce 和亚马逊的支持。在过去的一年里，Anthropic 完成了五笔融资，总额约为 73 亿美元。今年 3 月，Anthropic 推出了

6/20/2024 11:30:35 PM

资讯热榜

Former DeepSeek executive secretly starts new AI Agent project, already backed by top VC 消息称 OpenAI 已同谷歌敲定一份云 AI 算力交易，减少对微软依赖 OpenAI Upgrades ChatGPT Search Functionality to Provide More Precise and Smarter Responses 哈佛大学开源 AI 训练数据集“Institutional Books 1.0”，涵盖馆藏 98.3 万本图书 ChatGPT Sparks Conspiracy Theory Controversy, Accountant Nearly Loses Sanity After Believing It! All Ohio State University students will receive AI training to enhance technical application skills Meta、OpenAI 等公司的技术高管加入美国军队创新部队芭比娃娃、风火轮制造商美泰公司与 OpenAI 合作，今年将推出 AI 产品

标签云

人工智能 AI OpenAI AIGC 模型 ChatGPT DeepSeek AI绘画谷歌数据机器人大模型 Midjourney 用户智能开源微软 GPT Meta 学习图像技术 AI创作 Gemini 论文马斯克 Stable Diffusion 算法代码英伟达 Anthropic 芯片开发者生成式蛋白质腾讯训练神经网络智能体研究 3D 生成苹果计算机器学习 Sora Claude AI设计 AI for Science GPU AI视频人形机器人搜索华为百度场景大语言模型 xAI LLM 预测伟达深度学习字节跳动 Transformer Agent 工具模态视觉神器推荐具身智能文本 RAG LLaMA 算力 Copilot 大型语言模型驾驶 API 应用架构

应用