AIGC宇宙 AIGC宇宙

聊天机器人

ChatGPT 涉嫌“诱导”美国 16 岁少年自杀，家属指控 OpenAI 事发前放松安全措施

ChatGPT 涉嫌“诱导”美国 16 岁少年自杀，家属指控 OpenAI 事发前放松安全措施
10 月 24 日消息，今年春季，16 岁的美国少年亚当・雷恩在与 ChatGPT 进行了数月“深入对话”后选择自杀。 据英国《卫报》22 日报道，他的家人最新的指控提出，OpenAI 在雷恩去世前几个月放松了关于自残内容的安全限制，间接导致了这场悲剧。 根据家属的说法，OpenAI 早在 2022 年 7 月就制定了明确的内部指南，要求 ChatGPT 在遇到不当内容时必须拒绝作答，其中包括“宣扬、鼓励或描述自残、自杀、自我伤害、饮食失调”等话题。
10/24/2025 3:39:44 PM
清源
加州新法案：聊天机器人必须明确告知用户其为 AI

加州新法案：聊天机器人必须明确告知用户其为 AI
加州在人工智能行业日益发展的背景下，于10月13日通过了一项新的法律，旨在保护用户在与聊天机器人互动时的权益。 这项名为 “SB243” 的法案是由加州州长加文・纽森签署的，成为全国首个针对聊天机器人的安全规定。 该法案由州参议员安东尼・帕迪拉提出，强调了对用户的透明度和安全性的必要性。
10/14/2025 9:01:58 AM
AI在线
如何使用Google Gemini模型完成计算机视觉任务？

如何使用Google Gemini模型完成计算机视觉任务？
译者 | 李睿审校 | 重楼自从人工智能聊天机器人兴起以来，Google Gemini脱颖而出，已经成为推动智能系统进化的主要参与者之一。 除了强大的会话能力之外，Gemini还释放了计算机视觉实际应用的潜力，让它们能够看到、解释和描述周围的世界。 本文将逐步讲解如何利用Google Gemini完成计算机视觉任务，其中包括如何设置环境，发送带有指令的图像以及解释模型的输出以进行对象检测、字幕生成和OCR，还将探讨数据注释工具（例如YOLO中使用的工具），为自定义训练场景提供上下文。
5/26/2025 8:36:25 AM
李睿
医疗自诊依赖 AI 聊天机器人存风险，专家呼吁谨慎使用

医疗自诊依赖 AI 聊天机器人存风险，专家呼吁谨慎使用
牛津大学研究发现，人们使用聊天机器人获取健康建议时，往往难以提供关键信息，导致建议质量不佳。研究显示，聊天机器人不仅增加识别健康问题的难度，还可能低估问题严重性。#AI医疗##健康科技#
5/6/2025 3:52:16 PM
远洋
OpenAI前CEO和高级用户对AI谄媚和奉承用户的情况发出警告

OpenAI前CEO和高级用户对AI谄媚和奉承用户的情况发出警告
但对于OpenAI热门聊天机器人ChatGPT的许多用户来说，这似乎已成现实，特别是当它与底层GPT-4o大型语言多模态模型进行交互时(OpenAI还为ChatGPT用户提供了另外六种底层大型语言模型以供选择，以驱动聊天机器人的回复，每种模型都具备不同的能力和数字“性格特征”——o3、o4-mini、o4-mini-high、GPT-4.5、GPT-4omini和GPT-4)。 在过去几天里，包括前OpenAI的CEO埃米特·希尔(Emmett . Shear)——他仅在2023年11月山姆·奥特曼被解雇的风波中掌管公司72小时——以及开源AI代码共享社区Hugging .
4/29/2025 4:14:24 PM
Carl Franzen
从鹦鹉学舌到灵魂对话，AI的人话革命

从鹦鹉学舌到灵魂对话，AI的人话革命
2030年，一位老人对家庭机器人说：“我想念年轻时在西湖划船的日子。 ”AI不仅能调出当年的老照片，还能结合实时天气与老人健康数据，规划一场安全舒适的怀旧之旅，并同步预约无人游船。 当机器对人类产生“主动关怀”，标志着AI从工具进化为“生活伴侣”。
3/11/2025 1:20:43 PM
佚名
投资人朱啸虎：DeepSeek将彻底取代搜索

投资人朱啸虎：DeepSeek将彻底取代搜索
近日，沙江创投主管合伙人朱啸虎在接受采访时透露了对DeepSeek的浓厚兴趣。 他表示，如果DeepSeek开放融资机会，他将会进行投资。 这一表态引发了业界广泛关注。
2/8/2025 8:40:00 AM
AI在线
​加州新法案要求 AI 公司提醒儿童：聊天机器人不是人类

​加州新法案要求 AI 公司提醒儿童：聊天机器人不是人类
近日，加利福尼亚州提出了一项名为 SB243的法案，旨在保护儿童免受人工智能聊天机器人潜在风险的影响。 这项法案由加州参议员史蒂夫・帕迪拉（Steve Padilla）提出，主要要求 AI 公司定期提醒未成年人，聊天机器人实际上是人工智能，而不是人类。 图源备注：图片由AI生成，图片授权服务商Midjourney法案的核心目的在于防止儿童在使用聊天机器人时遭遇成瘾、孤立和误导等问题。
2/5/2025 1:56:00 PM
AI在线
Character AI 申请撤销诉讼，称其受第一修正案保护

Character AI 申请撤销诉讼，称其受第一修正案保护
近期，AI 聊天机器人平台 Character AI 因一起涉及青少年自杀的案件而陷入法律困境。 该平台向佛罗里达中区地方法院提交了一份撤诉动议，声称依据第一修正案，他们不应对相关诉讼承担责任。 图源备注：图片由AI生成，图片授权服务商Midjourney案件的起因是梅根・加西亚（Megan Garcia）在10月份对 Character AI 提起的诉讼。
1/25/2025 2:52:00 PM
AI在线
如何使用Hugging Face Transformers微调F5以回答问题？

如何使用Hugging Face Transformers微调F5以回答问题？
译者 | 布加迪审校 | 重楼使用Hugging Face Transformers对T5模型进行微调以处理问题回答任务很简单：只需为模型提供问题和上下文，它就能学会生成正确的答案。 T5是一个功能强大的模型，旨在帮助计算机理解和生成人类语言。 T5的全称是“文本到文本转换器”。
11/13/2024 8:34:32 AM
布加迪
  • 1