Forget "Fat" Models. The Future Is Narrow21 days agohttps://adlrocha.substack.com/p/adlrocha-forget-fat-models-the-future由于市场变化快和硬件价格高,作者推迟了建立本地AI推理设备的计划。中国可能限制顶级AI模型的出口,包括像Qwen和GLM-5.2这样的开源权重模型,这将威胁到西方的使用权限。来自中国的开源权重模型使得本地和无服务器AI成本变得可负担;一旦实施禁令,可能会限制这种使用权。混合专家模型通过每个token激活子网络(专家)来提高效率。更多...