Moving a Rust WebRTC SFU to thread-per-core: 70ms → 10ms P99.99 latency
2 days ago
- #WebRTC
- #Rust
- #Thread-Per-Core
- 将 Rust WebRTC SFU 从 Tokio 的工作窃取模型迁移到线程每核（TPC）架构，使 P99.99 延迟从 70 毫秒降低至 10 毫秒，并提升了 25% 的容量。
- TPC 架构消除了不必要的异步通道，通过同步处理数据包来避免调度开销和优先级反转，从而改善了尾部延迟。
- 基准测试显示，在高 CPU 负载下延迟保持稳定，TPC 即使在 80% 的 CPU 利用率下也能维持低抖动，增强了拥塞控制和流媒体质量。