Myths About Floating-Point Numbers (2021)
9 months ago
- #programming
- #computer-science
- #floating-point
- 浮点数很有用，但正确使用起来可能很棘手。
- 程序员可以从不同层次理解浮点数：初级、中级和高级。
- 浮点数在其有限的数值范围和精度内是精确的。
- 浮点运算是确定性的，而非随机的。
- NaN（非数字）和INF（无穷大）是浮点表示中的有效特殊值，它们可能很有用。
- 关于浮点数的常见观点是简化后的理解，虽有助于避免错误，但并未揭示全貌。