Gmail AI hallucinates, distorts email contents
10 months ago
- #AI Translation Errors
- #Gmail
- 谷歌Gmail服务自动修改邮件内容，导致出现荒谬的错误翻译
- 该问题不仅影响媒体和企业，还波及Gmail18亿用户的私人邮件，尤其是非英语默认语言用户
- 谷歌AI将周边信息（如邮件HTML代码）误判为文本内容，造成语言检测和翻译错误
- 典型案例包括将'Ass'（袖中王牌）错译为'Arsch'（屁股），'乌克兰阵地'被改为'美国阵地'
- 谷歌最初轻描淡写称影响'极少数用户'，经媒体报道后才着手修复
- 此事导致用户信任危机，德国t-online等媒体因翻译错误遭质疑公信力
- GMX、Web.de等德国邮件服务商未采用AI翻译，主因用户需求不足且需遵守欧盟数据保护法
- 谷歌计划通过更新提升翻译准确率，并增强自动翻译的透明度
- 专家指出错误可能源于训练数据中的统计偏差，而非故意操纵
- 该事件凸显AI语言处理在关键通讯工具中应用的复杂性与风险性