Is x86 ready to ACE it?
4 hours ago
- #Instruction Set Extensions
- #Machine Learning Acceleration
- #CPU Architecture
- CPU设计随着指令集扩展而演进，以适应变化的工作负载，例如英特尔针对机器学习的AMX技术。
- AMX通过瓦片寄存器和TMUL加速器加速矩阵乘法，支持INT8、FP16和BF16数据类型。
- ACE（AMX加速器）引入外积指令，支持FP8，并使用AVX-512向量寄存器作为输入。
- 与Arm的SME/SME2相比，ACE利用固定的512位向量宽度进行数据转换，而SME使用可变向量长度。
- ACE包含一个块缩放寄存器（BSR0），用于在低精度格式（如FP8）中进行缩放，类似于Arm的SME缩放支持。
- 瓦片大小优化减少了内存带宽；ACE使用AVX-512寄存器允许比AMX更大的瓦片，从而提高了效率。
- ACE的瓦片寄存器理论上可以作为暂存器使用，但由于容量和延迟等实际限制，其可行性较低。
- 硬件实现将是ACE性能的关键，目前尚无现成硬件可用，但未来可能得到英特尔和AMD的支持。