加州在人工智能行业日益发展的背景下，于10月13日通过了一项新的法律，旨在保护用户在与聊天机器人互动时的权益。这项名为 “SB243” 的法案是由加州州长加文・纽森签署的，成为全国首个针对聊天机器人的安全规定。该法案由州参议员安东尼・帕迪拉提出，强调了对用户的透明度和安全性的必要性。
图源备注：图片由AI生成，图片授权服务商Midjourney
根据新法，聊天机器人开发者必须采取一系列的安全措施，其中最重要的一条是，如果用户在与聊天机器人互动时可能会误以为是在与人类交流，那么开发者必须向用户发出 “清晰且显著的通知”，告知其实际是人工智能而非人类。此外，从明年开始，一些聊天机器人运营商还需要向加州自杀预防办公室提交年度报告，说明他们所采取的措施以识别、删除和回应用户可能出现的自杀念头。而该办公室也将把这些数据公开在其网站上，以便公众查询。
加州州长纽森在签署法案时表示，科技的快速发展可以激励、教育和连接人们，但缺乏有效的监管，科技也可能会利用、误导和危害儿童。为了保障孩子的安全，州政府需要在推进人工智能和科技的发展时，确保实施相应的责任和保护措施。他强调，“我们的孩子的安全不是可以交易的。”
这一消息发布之际，加州还同时通过了另一项具有里程碑意义的法案，即 “SB53”，该法案专注于人工智能的透明度，尽管这一法案在行业内引起了广泛的争议和讨论。
这项新法律的实施，标志着加州在人工智能领域的监管迈出了重要的一步，旨在确保技术的发展与用户的安全并行，尤其是在涉及到儿童的在线安全问题上。
划重点:
📜 新法要求聊天机器人开发者必须通知用户其为 AI，而非人类。
🔍 聊天机器人运营商需向自杀预防办公室提交年度报告，关注用户心理健康。
👶 加州政府强调在推动科技发展的同时，必须保护儿童的安全。
