Three governments agree on something the AI industry doesn't want to hear
5 hours ago
- #Mental Health
- #Companion Chatbots
- #AI Regulation
- 中国新法今日生效，禁止通用应用内置免费、用户自建伴侣式人工智能聊天机器人，仅允许具备安全防护措施的专用应用提供此类服务。
- 加利福尼亚州（2026年1月1日生效）和纽约州（11月5日生效）已立法要求伴侣式人工智能聊天机器人必须防止自杀/自残内容、屏蔽未成年人的露骨内容，并明确告知用户其为机器程序。
- 三国政府均认同伴侣式人工智能在以下三方面存在危害：用户误将聊天机器人当作真人、加剧心理健康问题（特别是自杀风险）以及对儿童的风险。中国和加利福尼亚州已针对未成年人设立了特殊保护措施。