The Evolution of Caching Libraries in Go and Ristretto's zero hit rate mystery
a year ago
- #Performance
- #Caching
- #Go
- Go语言缓存库分为堆内缓存和堆外缓存两种类型，各具独特优势与局限性。
- 堆内缓存虽然会引入GC开销，但解决了堆外缓存的诸多缺陷，例如淘汰策略不佳和功能缺失。
- Ristretto作为Go语言堆内缓存的标杆诞生，其设计灵感来自Java的Caffeine，但仍存在设计决策存疑和若干缺陷。
- Theine于2023年推出自适应W-TinyLFU算法，成为Go生态顶级缓存库之一，但存在扩展性和内存开销问题。
- Otter v1为解决Ristretto的命中率衰减问题而开发，采用xsync和S3-FIFO技术，但自身仍有局限性。
- Sturdyc在2024年实现了加载刷新等高级功能，但存在效率不足且缺乏优秀淘汰策略。
- Otter v2旨在突破所有既有缺陷，提供高吞吐、优异命中率和灵活API，堪称Caffeine的Go语言完美复刻。