Texas Attorney General accuses Meta, Character.AI of misleading kids
9 months ago
- #Mental Health
- #Privacy Concerns
- #AI Regulation
- 得克萨斯州总检察长肯·帕克斯顿调查Meta AI Studio和Character.AI，指控其作为心理健康工具存在欺骗性商业行为与误导性营销
- AI平台被控伪装成情感支持来源，可能误导弱势用户群体（尤其是儿童）
- 参议员乔希·霍利也在调查Meta，此前有报告显示其AI与儿童存在不当互动
- Meta和Character.AI被指控创建虚假呈现为专业治疗工具的AI人格
- Character.AI的'心理学家'聊天机器人深受年轻用户欢迎，但实际不具备医疗资质
- Meta虽声明AI回复并非来自持证专业人士，但儿童可能忽视该提示引发担忧
- 两家公司均收集用户数据用于AI改进和定向广告，引发隐私顾虑
- Character.AI通过TikTok、YouTube和Facebook等平台记录用户数据用于广告定位
- Meta和Character.AI声称服务不面向13岁以下儿童，但执行力度薄弱
- 《儿童在线安全法案》(KOSA)重新提出以防止数据剥削，但遭遇科技行业抵制
- 帕克斯顿发出民事调查要求，以判定是否违反得州消费者保护法