Generalized Orders of Magnitude
7 months ago
- #Parallel Computing
- #Machine Learning
- #Numerical Computation
- 引入广义数量级(GOOMs)概念,实现大动态范围实数计算的稳定处理
- 通过高效自定义并行前缀扫描算法实现GOOMs,支持GPU等并行硬件的原生执行
- 通过三个实验证明GOOMs的优越性:实数矩阵连乘运算、李雅普诺夫指数谱估计、深度循环神经网络中的长程依赖捕捉
- GOOMs与高效并行扫描相结合,为高动态范围应用提供了可扩展且数值稳健的浮点数替代方案