AMD Ryzen AI NPUs Are Finally Useful Under Linux for Running LLMs
2 months ago
- #Linux
- #LLM
- #AMD Ryzen AI
- AMD Ryzen AI NPU现可通过Lemonade 10.0和FastFlowLM在Linux系统支持大语言模型
- FastFlowLM 0.9.35使Ryzen AI NPU能处理长达256k标记的上下文长度
- 需Linux内核7.0或AMDXDNA驱动回溯移植才能支持Ryzen AI NPU
- 支持范围涵盖AMD Ryzen AI 300/400系列SoC处理器
- Lemonade 10.0同时集成了Whisper和Claude Code技术
- 此项开发恰逢Ryzen AI嵌入式P100和PRO 400系列新品上市