An AI Vibe Coding Horror Story
2 days ago
- #Data Privacy
- #Medical Software
- #AI Coding Horror
- 个人利用AI编程助手创建了一个自定义患者管理系统，导入了患者数据并在线部署。
- 该应用程序安全性极低，患者数据未经加密存储在美国服务器上，无需适当认证即可访问，违反了数据保护法律。
- 就诊时的语音录音在未经患者同意的情况下被发送给外部AI服务进行转录，引发了严重的隐私和法律担忧。
- 所有访问控制均在客户端的JavaScript中实现，使得通过简单的命令（如curl）就能轻松访问数据。
- 创建者未能理解系统的风险，在安全漏洞被报告后，用AI生成的消息进行了回应。