Who manages the agents?
a day ago
- #Human Agency
- #Technology Ethics
- #AI Future
- 文章提出了两种人工智能未来：一种是由少数类似神职人员的群体控制的神明级人工智能，另一种是以人类为核心、由人工智能增强人类能力的模式。
- 一个新的技术神职人员阶层正在崛起——那些构建前沿人工智能系统、拥有特权访问权并决定谁能使用它们的人，他们警告大规模失业的风险，却视其为一种解放。
- 人们担忧出现双层体系：少数精英（如合伙人、研究人员）使用功能强大的AI，而公众只能接触受限的AI，这源于生物武器和虚假信息等安全风险。
- 在软件开发等领域，一小部分超级用户借助AI助手实现了百倍的生产力提升，而普通从业者进步甚微，差距正在扩大。
- 未来应由数十亿人共同建造，而非仅为他们建造，强调普遍参与而非单纯获取权限，通过人类管理AI助手来提升创造力与生产力。
- 企业应专注于通过员工管理的AI助手将普通工作者生产力提升两倍，而非削减人力编制，以避免剥夺民众权利。
- AI助手应具有主权——由企业拥有和控制，以人类为核心管理身份、记忆和技能，从而确保问责制并防止依赖。
- 文章呼吁摒弃人工智能集中化的预言，主张通过分布式AI增强人类能动性，构建一个人人皆可成为AI管理者的未来。