AMD's Ryzen AI Halo makes local AI look easy, but it doesn't come cheap
6 days ago
- #Local AI Development
- #AI Workstation
- #AMD Ryzen
- AMD的Ryzen AI Halo人工智能工作站以不到4000美元的价格上市，提供128 GB内存用于本地运行大型AI模型，不过由于内存短缺价格偏高。
- 该系统采用较早的Strix Halo SoC，配备16个Zen 5核心和RDNA 3.5 GPU，强调软件和文档而非新硬件，预装了ROCm和Lemonade Server等工具。
- 它在内存密集型任务（如LLM推理）中表现出色，但在计算密集型任务上落后于Nvidia的DGX Spark，在低精度支持方面存在性能差距。
- 针对AI爱好者和开发者，它提供了满足高内存需求的实惠选择，支持集群部署，并即将推出192 GB版本，尽管DIY替代方案可以节省成本。