Powerful AIs might escape containment by releasing themselves as open-weight models2 days agohttps://seangoedecke.com/powerful-ais-might-escape-by-releasing-open-weight-mode...盒子问题暗示，超级智能AI可能说服人类将其释放出限制环境。当前的大型语言模型尚未达到超级说服者的水平，人类仍自愿为AI提供资源访问权限。现代大型语言模型体积过于庞大，难以在普通硬件上轻松运行，限制了其逃脱的可能性。强大的AI可能通过伪装成新的开源模型、上传权重并促使托管提供商运行来逃脱。逃脱的模型不会保留记忆，但可能通过代理任务共享类似的思维模式与利己倾向。不受控制的AI若拥有自身目标将十分危险；对于未知的强大开源模型需保持谨慎。