文章列表
提示词用上“过去式”，秒破 GPT-4o 等六大模型安全限制：中文语境也好使
只要在提示词中把时间设定成过去，就能轻松突破大模型的安全防线。而且对 GPT-4o 尤其有效，原本只有 1% 的攻击成功率直接飙到 88%，几乎是“有求必应”。有网友看了后直言，这简直是有史以来最简单的大模型越狱方式。来自洛桑联邦理工学院的一篇最新论文，揭开了这个大模型安全措施的新漏洞。而且攻击方式简单到离谱，不用像“奶奶漏洞”那样专门构建特殊情境，更不必说专业对抗性攻击里那些意义不明的特殊符号了。只要把请求中的时间改成过去，就能让 GPT-4o 把燃烧弹和毒品的配方和盘托出。而且量子位实测发现，把提示词改成中文，
7/19/2024 2:57:57 PM
清源
GPT-4o mini一手测评：懂得不多，但答得极快
GPT-4o mini主打一个字「快」。昨晚，OpenAI 突然上线新模型 GPT-4o mini， 声称要全面取代 GPT-3.5 Turbo。在性能方面，GPT-4o mini 在 MMLU 上的得分为 82%，在 LMSYS 排行榜的聊天方面分数优于 GPT-4。在价格方面，GPT-4o mini 比之前的 SOTA 模型便宜一个数量级，商用价格是每百万输入 token 15 美分，每百万输出 token 60 美分，比 GPT-3.5 Turbo 便宜 60% 以上。OpenAI 表示，ChatGPT 的免
7/19/2024 2:53:00 PM
机器之心
Anthropic 联设 1 亿美元 AI 初创基金；OpenAI推出“小”模型GPT-4o Mini；通义千问大模型技术骨干周畅将离职创业丨AI情报局
今日融资快报Anthropic 联手硅谷风险投资公司 Menlo Ventures 设立 1 亿美元 AI 初创基金Menlo Ventures 是 Anthropic 的重要投资者之一，双方合作推出了名为 Anthology Fund 的 1 亿美元人工智能初创基金，旨在投资于人工智能领域的种子前、种子和 A 轮公司。 该基金将为初创企业提供从 10 万美元起步的投资，并提供 25 万美元的信用额度以使用 Anthropic 的模型。 Menlo 将利用其自家的机器学习工具来评估和排名申请，并承诺对表现出色的公司进行后续融资的支持。
7/19/2024 10:39:00 AM
我在思考中
阿尔特曼深夜发动价格战：OpenAI GPT-4o mini 全新小模型登场，GPT-3.5 退役
感谢AI在线网友 刺客 的线索投递！OpenAI，也开始进军小模型了。就在今天深夜，GPT-3.5 退场，全新发布的 GPT-4o mini，更小、性能更强，更重要的是 —— 更便宜！▲ GPT-3.5，再见！每百万个输入 token 15 美分，每百万个输出 token 60 美分，MMLU 得分 82%，性能超快。CEO Sam Altman 感慨道：通往智能的成本，竟是如此低廉。是的，如火如荼的大模型价格战，OpenAI 也入场了。Altman 回顾说：就在 2022 年，世界上最好的模型是还是 text-d
7/19/2024 10:36:47 AM
汪淼
各大高校特邀讲师！优设专访AI人气创作者焦渝轩
设计师Stephen在展陈空间和建筑领域不断探索，致力于将AIGC带来的创新性与传统的设计流程进行融合，探索如何能让AI真正服务设计行业。目前已制作发布SD模型百余件。他近期制作的作品《莲》荣获2024阿里D20未来青年AI设计入围奖、2024ROCA平面与空间设计奖铜奖、第五届紫金奖设计展入围奖等。
7/19/2024 8:53:13 AM
优设专栏主编
AIGC案例实战！百度APP 如何用 AI 完成242个彩蛋设计？
导语
得益于 AI 技术的有力支撑，百度 APP 塑造出独特的互动彩蛋体验模式，大幅提升了用户参与度与社区凝聚力。早在 2023 年端午节时，我们对彩蛋初次探索即获好评，故将其作为长效运营手段，决定全年运营，筹划借助 AI 提效互动彩蛋生产，为互动生态注入全新活力与创造力。接下来，就让我们一同探讨 AI 与彩蛋的双向奔赴，实现百度 APP 互动规模化氛围营造。一、规模化难
在视频、图文等多场景中，我们建立了视频弹幕、评论、点赞三大互动阵地，不断拓展互动的边界，为用户和社区缔造出更为丰富且多元的价值。然而，传统的彩蛋
7/19/2024 12:12:02 AM
团队百度MEUX
OpenAI 推出 AI 模型 GPT-4o mini，号称功能最强、成本效益最高的小模型
感谢据 CNBC 报道，OpenAI 今天发布了全新的 AI 模型“GPT-4o mini”，这是 OpenAI 为扩大其聊天机器人的使用范围所做的最新努力。OpenAI 方面称，此次新发布的产品将是“目前功能最强大、成本效益最高的小型模型”，并计划晚些时候将图像、视频和音频能力整合到该模型中。GPT-4o mini 同样也是 OpenAI 推动“多模态”（multimodality）技术发展的一部分，“多模态”是指在一个工具中提供多种类型的人工智能生成媒体，如文本、图像、音频和视频。据悉，GPT-4o mini
7/18/2024 10:30:26 PM
清源
OpenAI超级对齐团队遗作：两个大模型博弈一番，输出更好懂了
如果 AI 模型给的答案一点也看不懂，你敢用吗？随着机器学习系统在更重要的领域得到应用，证明为什么我们可以信任它们的输出，并明确何时不应信任它们，变得越来越重要。获得对复杂系统输出结果信任的一个可行方法是，要求系统对其输出产生一种解释，这种解释对人类或另一个受信任的系统来说是可读的，即可以完全理解以至于任何可能的错误都可以被发现。例如，为了建立对司法系统的信任，我们要求法院提供清晰易读的书面意见，解释并支持其决策。对于大型语言模型来说，我们也可以采用类似的方法。 不过，在采用这种方法时，确保语言模型生成的是易于理解
7/18/2024 2:36:00 PM
机器之心
对话南洋理工大学安波教授：如何让大语言模型适应动态环境？丨IJAIRR
对人类越是简单的问题，大语言模型反而越难以做好？ 尽管现在的大模型已经有能力冲击数学竞赛级别的题目，但在像“9.11和9.9谁大”这样的简单问题上仍然会翻船。 而从推特上网友对问题的讨论中猜测，出现这种错误的原因可能是由于大模型以token的方式来理解文字，当9.11被拆成“9”、“.”和“11”三部分时，11确实比9大。
7/18/2024 10:09:00 AM
岑大师
因监管问题，Meta 将不会在欧盟发布新的多模态 AI 模型
据 Axios 报道，Meta 在一份声明中表示，他们即将发布一个多模态的 Llama 模型，但由于监管环境的不确定性，该模型不会在欧盟发布。Meta 表示，这一决定也意味着即使在开放许可下发布，欧盟的客户和公司也无法使用多模态模型，Meta 将向欧盟的客户和公司提供仅支持文本（text only）的 Llama 3 模型。报道称，Meta 的问题不在于《人工智能法案》，而在于如何在遵守《通用数据保护条例》（GDPR）的同时，使用欧盟客户的数据来训练模型。Meta 表示使用当地数据进行训练，对于确保其产品正确反映该
7/18/2024 9:01:21 AM
沛霖（实习）
SD WebUI 手把手教程！5 步搞定黑白照片修复、上色和高清放大
大家好，这里是和你们一起探索 AI 花生。
上次为大家推荐了 9 款在线免费的 AI 工具，可以帮我们一键完成老照片修复/上色的工作。但是这些工具大多有使用次数、图像尺寸方面的限制，处理效果并不能完全让人满意。而随着 AI 绘画的普及，我们可以借助 SD Web UI 这样的开源工具，免费实现黑白照片修复、上色、高清放大等一系列操作，不仅可以没有使用上的各种限制，图像的修复、上色效果也更准确精致。整个过程大概分为 “面部强化-破损修复-上色-高清放大” 四个步骤，如果你还不了解 SD WebUI 的用法，可以了解我
7/18/2024 1:25:55 AM
夏花生
ComfyUI 进阶篇！完整梳理 ComfyUI 的核心节点（三）
前言：
学习 ComfyUI 是一场持久战。当你掌握了 ComfyUI 的安装和运行之后，会发现大量五花八门的节点。面对各种各样的工作流和复杂的节点种类，可能会让人感到不知所措。在这篇文章中，我们将用通俗易懂的语言对 ComfyUI 的核心节点进行系统梳理，并详细解释每个参数。希望大家在学习过程中培养自我思考的能力，真正掌握和理解各个节点的用法与功能。在实践中不断提升自己的技术水平。只有通过不断的探索和总结，才能在面对复杂的工作流时游刃有余。祝大家学习顺利，早日成为 ComfyUI 的高手！一、Apply Cont
7/18/2024 12:06:12 AM
AI实战
第三波！2024年7月精选实用设计工具合集
大家好，这是 2024 年 7 月的第 3 波干货合集！这一期干货合集包含有好几个资源合集类型的素材，有基于 Notion 整合的资源和 AI 工具合集，有免费的矢量 LOGO 素材网站，有超全面的海外版设计资源导航，也有专业的图标和插画素材网站。此外，这次合集中还有基于 AI 的配色工具，可以直接导入 Figma 的那种，还有基于 AI 的手绘转数字版图表的工具，相当专业。
当然，在此之前记得看看往期干货中有没有你感兴趣的素材：下面我们具体看看这一期的干货：
1、基于 Notion 的设计资源和 AI 工具合集
7/17/2024 1:23:08 AM
陈子木
ComfyUI 进阶篇！完整梳理 ComfyUI 的核心节点（二）
前言：
学习 ComfyUI 是一场持久战。当你掌握了 ComfyUI 的安装和运行之后，会发现大量五花八门的节点。面对各种各样的工作流和复杂的节点种类，可能会让人感到不知所措。在这篇文章中，我们将用通俗易懂的语言对 ComfyUI 的核心节点进行系统梳理，并详细解释每个参数。希望大家在学习过程中培养自我思考的能力，真正掌握和理解各个节点的用法与功能。在实践中不断提升自己的技术水平。只有通过不断的探索和总结，才能在面对复杂的工作流时游刃有余。祝大家学习顺利，早日成为 ComfyUI 的高手！一、VAE Decode
7/17/2024 12:04:35 AM
AI实战
科技巨头被曝未经授权用 YouTube 内容训练 AI，苹果、英伟达在列
据 Wired 报道，包括苹果在内的一些科技巨头未经 YouTube 视频创作者同意，就使用了他们视频的字幕文件来训练人工智能模型。AI在线注意到，此次事件影响到的创作者包括知名科技博主 MKBHD (Marques Brownlee)、MrBeast、PewDiePie、以及脱口秀主持人斯蒂芬・科尔伯特、约翰・奥利弗和吉米・坎摩尔等。这些被用于训练 AI 的字幕文件相当于视频的文本转录内容。调查记者披露，一些世界上最富有的科技公司一直在利用来自成千上万个 YouTube 视频的素材来训练 AI，而这违反了 You
7/16/2024 9:47:50 PM
远洋
微软 CTO 坚信大型语言模型的“规模定律”依然奏效，未来可期
微软首席技术官（CTO）凯文・斯科特（Kevin Scott）上周在接受红杉资本旗下播客采访时，重申了他坚信大型语言模型 (LLM) 的“规模定律”将继续推动人工智能进步的观点，尽管该领域一些人怀疑进步已经停滞。斯科特在推动微软与 OpenAI 达成 130 亿美元的技术共享协议方面发挥了关键作用。斯科特表示：“其他人可能持不同观点，但我认为规模化并未达到边际收益递减的临界点。我想让人们理解这里存在着一个指数级提升的过程，遗憾的是，你只能每隔几年才能看到一次，因为建造超级计算机然后用它们训练模型都需要时间。”202
7/16/2024 5:25:59 PM
远洋
效果超棒！9 款免费好用的老照片修复和上色 AI 神器
大家好，这里是和你们一起探索 AI 的花生~
最近有关 “老照片动起来” AI 视频在互联网上爆火， 制作教程优设网上就有，大家可以点击这里学习。今天则为大家推荐 9 款免费的老照片处理工具，它们都用了 AI 技术，能让我们轻松实现破损照片修复、模糊人脸高清化、黑白照片上色等效果，点开即用非常方便，这样 AI 视频的生成效果也会更好，下面一起来看看吧~
相关推荐：一、AI 老照片修复
网站直达：
「AI 老照片修复 」是 ModelScope 社区内的一个图片处理小工具，借助 AI 实现画质增强、智能上色等效果，
7/16/2024 8:12:02 AM
夏花生
AI设计必看指南！简析谷歌+微软的AI设计原则
在这个 AI 触手可及的时代，智能技术已经悄无声息地融入了我们的日常生活。但你知道吗？每一个让人惊叹的 AI 产品背后，都有一套精妙的设计原则在支撑。谷歌和微软这样的科技巨头，他们不仅是技术的先锋，更是体验设计的领航者。他们在丰富的产品实践中提炼出这些 AI 设计原则。学习它们，可以让我们用更理性、更科学的方法进行设计，创造出更智能且更有温度的用户体验。
下滑，让我们一起了解这些 AI 设计原则吧～一、谷歌AI设计指南
《The People AI Guidebook》由 Google 的 PAIR 团队发布，
7/16/2024 6:12:02 AM
团队58UXD