What Regulatory Capture Looks Like
9 hours ago
- 假设人们总是从自身利益出发是一种有用的启发式方法，但在将人工智能安全警告视为营销时可能会出错。
- 像阿莫代伊、奥尔特曼、马斯克和辛顿这样的人工智能专家在拥有商业利益之前就警告过人工智能风险，这表明他们的担忧是真诚的。
- 监管俘获是一个缓慢的侵蚀过程，在默默无闻中发生，而不是突发事件，当公众关注度高时，它不太可能发生。
- 监管俘获的经典例子包括州际商业委员会保护铁路公司和菲利普·莫里斯对烟草监管的支持，这是战略谈判，而不是俘获。
- 人工智能监管仍处于“酝酿”阶段，公众高度关注，使得俘获不太可能发生；相反，监管可能会减少人工智能的利润。
- 阿莫代伊提出的放缓人工智能开发和独立安全团队的提议可能有利于他的公司，但这并不纯粹是利润最大化，可能反映了他对安全而非最大利润的真实偏好。
- 批评者应该关注人工智能风险论证的实质，而不是诉诸于将营销或监管俘获过于简单化的指责。