The Future of Everything Is Lies, I Guess: Safety
3 days ago
- #Machine Learning Risks
- #AI Safety
- #Technology Ethics
- 机器学习系统（包括大型语言模型）危及心理和生理安全，即使进行对齐努力也不太可能防止恶意使用。
- 大型语言模型存在安全风险，如提示注入攻击，无法安全处理破坏性操作或不可信输入，可能导致数据外泄和系统损坏。
- 机器学习降低了复杂欺诈、骚扰和剥削的成本，削弱了人们对音视频证据的信任，并加重了社会负担，例如更高的保险费。
- AI生成内容（如儿童性虐待材料和暴力图像）增加了内容审核员的心理创伤，平台难以通过自动检测有效减轻危害。
- 采用机器学习的自主武器系统正在兴起，可实现针对性杀戮并模糊伦理责任，尽管企业界存在抵制，军事应用仍可能持续扩大。