On-Device AI Models Might Be the Next Reason to Upgrade Your iPhone
2 months ago
- #AI
- #iPhone
- #Gemini
- iPhone 17可在设备端运行30亿参数的语言模型，每秒生成30个token。
- 苹果现已接入谷歌Gemini模型，可将其蒸馏为更小、性能更强的模型适配iPhone和iPad。
- 知识蒸馏技术利用大模型的推理能力训练小模型，从而提升小模型性能。
- 智能手机缺乏令人信服的升级理由，而设备端生成式AI通过提供实质性改进可能改变这一现状。
- 参数竞赛可能取代配置竞赛，更大参数的模型将带来更优性能和用户体验。
- 设备端AI对硬件的要求将淘汰老旧设备，推动用户升级换代。
- 苹果和谷歌正利用蒸馏技术为不同硬件层级规模化部署AI模型。
- 设备端AI可能成为区分手机档次和代际的核心差异点。
- 消费者将AI性能作为购买决策因素的趋势正在形成，并能即时感知模型表现。
- 下一代手机的主要升级动力很可能来自AI模型能力而非硬件配置。