'I Want to Make You Immortal' – How one woman confronted her deepfakes stalker
a year ago
- #AI
- #deepfake
- #harassment
- 乔安妮·周发现自己被AI换脸生成的色情内容出现在网上，这些内容是由一个名为'罗恩'的骚扰者制作并传播的。
- 骚扰行为逐渐升级，罗恩制作了数千条相关内容，在多个平台发布，并直接向周发送带有种族歧视的骚扰信息。
- 周向网络调查员查尔斯·德巴伯寻求帮助，后者指出AI技术在骚扰行为中的使用日益增多，而有效监管却严重缺失。
- 尽管多次尝试举报和删除相关内容，骚扰仍在持续，新的账号和内容不断出现。
- 周因此遭受严重精神困扰，产生自残念头，她的职业和个人生活都受到严重影响。
- 骚扰者罗恩表现出偏执和控制欲行为，在威胁与乞求原谅之间反复切换，同时持续制作传播侮辱性内容。
- 周的案例凸显了AI换脸骚扰这一普遍问题，这种现象对女性影响尤为严重，且缺乏有效的法律和技术解决方案。
- 现行法律如《2022年反暴力侵害妇女法重新授权法案》未能有效规制AI生成的换脸内容。
- 制作换脸视频的便捷性加上施害者无需承担后果，使问题更加恶化，像周这样的受害者几乎求助无门。
- 周的遭遇表明，我们需要更全面、更具包容性的解决方案来打击AI换脸骚扰，保护受害者权益。