Cops' favorite AI tool automatically deletes evidence of when AI was used
10 months ago
- #police accountability
- #AI
- #digital rights
- 电子前线基金会（EFF）调查了AI生成的警方报告，指出这些报告几乎无法被审计，并可能助长警方在宣誓作证时的不诚实行为。
- Axon公司的Draft One工具利用ChatGPT变体，根据执法记录仪音频自动生成警方报告，要求警员对准确性、偏见和上下文进行人工编辑。
- EFF发现该技术缺乏透明度和问责机制：无需披露AI使用情况、不保存草稿版本、也不记录AI生成的具体内容。
- 执法部门不保留报告的不同草稿版本，导致难以评估技术可靠性或对比报告修改内容。
- EFF对警员可能未经充分审核就批准AI生成报告表示担忧，并举例说明系统漏洞曾允许警员绕过必要的检查环节。