Why I Left Google DeepMind
5 hours ago
- #AI Ethics
- #Google DeepMind
- #Military AI
- 该作家在谷歌DeepMind与五角大楼签订一项军事人工智能合作协议后离开了公司，该协议允许“任何合法的政府目的”，且未对致命自主武器或大规模监控设立具有约束力的限制，尽管公司内部曾努力阻止此协议。
- 内部运动包括游说杰夫·迪恩和德米斯·哈萨比斯等高层人物，起草了一份长达25页的监督框架，并收集了员工请愿，但在压力下，道德承诺和原则并未得到维护。
- 尽管向iaseai等人工智能伦理组织以及斯图尔特·拉塞尔和约书亚·本吉奥等知名人士进行外部联系，但未能就合作协议发表公开声明或采取行动，凸显了机构层面的沉默。
- 该作家认为，包括杰夫·迪恩和德米斯·哈萨比斯在内作出道德承诺的关键人物，尽管曾誓言不支持杀人机器人，却仍留在谷歌，这削弱了此类承诺的可信度。
- 该协议的影响延伸至人工智能的生存风险，因为没有经过思维链监控的失控军事部署可能助长欺骗性人工智能计划，并增加灾难性危害的风险。