双语

Kimi K3 Now Available via Telnyx Inference API
2 days ago
- Kimi K3 是月之暗面推出的2.8万亿参数开源模型，可通过Telnyx推理API使用。
- 它是首个3万亿参数级别的开源模型，具备Kimi Delta注意力机制、注意力残差、100万token上下文窗口以及原生视觉能力。
- 该模型在编程、推理和智能体基准测试中与Anthropic和OpenAI的闭源前沿模型竞争。
- K3运行在Telnyx自有的GPU基础设施上，可通过兼容OpenAI的API访问。
- 定价：每100万缓存输入token 0.27美元，每100万输入token 2.70美元，每100万输出token 13.50美元。
Kimi K3 after a week of real project use: what works, what doesn't
3 days ago
- Kimi K3是首个能够在架构层面进行严肃工程对话的开源模型，专注于系统设计和权衡分析。
- 其指令遵循能力与Opus相当，在长会话中严格遵守边界和多层指令。
- 数据分析质量与Fable相当，能从真实数据集中提供有意义的观察和可操作的见解。
- 在长代码会话方面，K3超越Opus并与Fable媲美，但存在训练后问题：过载错误、空思维令牌以及需要稳健错误处理的工具调用逻辑循环。
- 缓存机制需谨慎进行密钥管理以确保成本效益，订阅信用消耗速度比Claude和Codex更快。
- 上下文增长带来的性能退化极小，优于对初期模型的预期。
- 更广泛的背景：讨论已从中国开源模型是否优秀转向如何限制它们，表明已跨越重要的技术门槛。
- K3具有竞争力的价格和前沿级能力，使其成为Claude和Codex的强劲新兴竞争者，差距正在迅速缩小。
Mozilla: The state of open source AI
12 days ago
- 开源AI正成功应用于全球多样化的实际场景中，从毛利语言模型到农业诊断，强调所有权与控制权。
- Mozilla/SlashData调查显示，使用AI的开发人员中79%选择开源模型，但仅有51%的开源模型团队能进入生产阶段，封闭模型团队则达到63%，差距源于运维工具和信任问题。
- 开源模型已发展成规模达数千亿美元的商业市场，Databricks、Mistral和DeepSeek等公司实现显著营收和估值增长。
- 战略重点正转向掌控模型之上的层次，如代理化工具链（编排、工具、记忆、权限），开源与封闭竞争在此加剧。
- 政府日益支持开源AI，如欧盟委员会'开源优先'规则和加拿大目标将企业应用率从12%提升至60%。
- 主要挑战包括基础设施成本、安全问题、维护和部署复杂性，全球调查表突显了地区差异。
- 开源AI面临的风险包括推理和代理任务能力差距扩大、封闭平台在权限标准上可能形成垄断、经济可持续性及滥用担忧。
- 未来方向主张竞争、互操作性和自由切换供应商，警惕少数企业控制的'租赁式'未来，呼吁开放协作共建。
German AI consortium releases Soofi S, an open 30B model
14 days ago
- 德国研究联盟发布了完全在德国电信AI云上训练的开源300亿参数语言模型Soofi S。
- Soofi S采用资源高效的混合专家（MoE）混合架构，每个令牌仅激活316亿参数中的32亿，以确保长文本输入下的恒定处理速度。
- 该模型在德语、英语和编程基准测试中表现优于其他完全开源模型（如Olmo 3 32B和Apertus 70B），其训练数据刻意侧重德语内容。
- 批评者认为Soofi S依据Chinchilla缩放法则存在‘过度训练’，但技术领导层反驳称，由于MoE架构的数据重复利用优势，该法则并不适用。
- Soofi S在长上下文生成中展现出强大吞吐量，在4000至256000个令牌范围内保持近乎稳定的性能，并在德语知识测试中领先，但在数学和事实检索方面存在一些弱点。
- 该模型基于使用可再生能源的主权基础设施训练，并公开了权重、代码和数据清单，但因包含少量商业许可数据集，未能完全满足严格的欧洲开放数据定义。
Do frontier models matter if most production AI ends up running on open models?
15 days ago
- 今年春季，中国开源模型占Hugging Face下载量的41%，超越了美国模型。
- 开源模型，尤其是中国企业的模型，在平台上承担了大量人工智能请求，显示出市场正转向更廉价、可定制的替代方案，而非尖端模型。
- Hugging Face首席执行官克莱姆·德朗格认为，企业越来越倾向于拥有AI模型而非租用，以避免核心能力外包并获得控制权。
- 财富500强公司正利用Hugging Face部署私有及开源模型，这预示着行业趋势正转向多个专用模型而非单一解决方案。
- 中国AI实验室定期发布性能强劲的开源模型，削弱了专有AI的经济模式，并在编码和安防等领域与顶级模型竞争。
- 微软首席执行官萨提亚·纳德拉等高管警告应避免单一供应商锁定，强调分布式学习基础设施的重要性，以确保企业掌控自身数据。
- 关于开源模型风险存在争议：一方担忧恶意行为者滥用，另一方则认为权力集中是更大威胁。
- 德朗格倡导开源模型的透明度，以营造公平竞争环境，并让防御方能够应对网络安全风险。

Hasty Briefsbeta

open-source ai

Kimi K3 Now Available via Telnyx Inference API

Kimi K3 after a week of real project use: what works, what doesn't

Mozilla: The state of open source AI

German AI consortium releases Soofi S, an open 30B model

Do frontier models matter if most production AI ends up running on open models?