Comparing Integers and Doubles
6 months ago
- #database
- #comparison
- #precision
- 在系统中比较不同数值类型时，由于精度损失可能导致传递性比较失败。
- 示例SQL查询展示了一个情况：a=b和a=c为真，但由于双精度限制导致b=c为假。
- 哈希连接和优化器可能因这些比较问题产生不同行为，从而导致不一致性。
- 正确的比较方法需要将整数转为双精度浮点数，检查相等性并处理精度损失。
- Python和SQLLite能正确处理这类比较，而许多其他系统和语言则不能。
- 提出的`cmpDoubleInt64`函数为整型/双精度浮点数的精确比较提供了解决方案。