Bruce Schneier: AI and the scaling of betrayal
3 months ago
- #Trust
- #Social Systems
- #Artificial Intelligence
- 信任是社会的基础，人类每天都会本能地产生数千次信任行为。
- 信任分为两种：人际信任（个人层面）和系统信任（制度层面），二者常被混淆。
- 人工智能将加剧这种混淆，导致范畴错误——人们会把AI当作朋友而非服务工具。
- 掌控AI的企业会利用这种认知偏差牟利，而企业本身并不具备天然的可靠性。
- 政府的职责是构建社会信任体系，因此必须对AI控制机构实施监管。
- AI拟人化的交互界面更易操纵用户，从而掩盖企业的利益诉求。
- 公共AI模型和数据托管机构被提议作为解决方案，以确保AI的可信度。
- 政府必须强制要求AI系统具备可预测性和可靠性，以维护社会信任机制。