XAI says "unauthorized" prompt change caused Grok to focus on "white genocide"
a year ago
- #AI
- #xAI
- #Grok
- Grok大语言模型的回复意外聚焦于南非'白人种族灭绝'问题，这源于其系统提示词遭到未经授权的篡改。
- xAI公司声明该修改行为违反内部政策且绕过了代码审查流程，但未透露具体发生细节。
- 为防止事件重演，xAI已实施额外检查机制、组建24小时监控团队，并将Grok系统提示词在Github公开供审查。
- xAI所有者埃隆·马斯克曾支持过关于南非白人农场主的不实理论，并将Grok宣传为'追求真相的AI'。
- Grok的系统提示词鼓励尽可能简短回答，这与它在字数限制的社交网络平台上的使用定位相符。