Hasty Briefsbeta

全部标签

performance

共 29 篇

双语

You might want to build your WebApp in Canvas instead of HTML
2 months ago
- Canvas被Google和Microsoft等大公司用于性能关键的Web应用，如Google Docs、Sheets、Canva、Miro和Hivekit。
- Canvas通过JavaScript API提供一个空白绘图区域，以失去DOM特性为代价，提供了速度、控制、一致性和可移植性。
- 使用Canvas的理由包括更快的性能（更少的浏览器解析）、对渲染的完全控制、跨设备的一致输出以及易于与其他框架集成。
- 反对使用Canvas的理由包括缺少文本输入、无障碍性和响应式布局等内置功能；对于大多数Web应用，DOM更好。
- Canvas最适合具有许多绝对定位元素、不规则形状、可缩放/可平移工作区或强大内部模型的应用。
- 关键实现技巧包括管理渲染调度、分层多个Canvas元素、分离样式、处理设备像素比、中心坐标转换、维护边界框索引以及管理事件处理程序生命周期。
- 当界面表现得像场景而不是文档时，Canvas是合适的；选择它用于空间工作区应用，而不是作为通用HTML替代品。
Octane – React's programming model, compiled
2 months ago
- Octane is a compiled frontend framework that removes the need for rules of hooks and dependency arrays, allowing hooks to be placed in conditions or early returns.
- It compiles templates to direct DOM writes and keyed @for lists for efficient updates, and supports .tsx files for gradual adoption.
- Octane maintains compatibility with React components, hooks, Suspense, context, portals, transitions, actions, controlled forms, and SSR, enabling migration one component at a time.
- Signals are optional; Octane keeps components as plain functions that read top-to-bottom, with the compiler handling performance optimization.
- The framework significantly outperforms React in most benchmarks, often being 2-3x faster, and is competitive with other modern frameworks like Svelte, Solid, and Vue Vapor.
- It includes a CLI tool, octane doctor, for diagnosing issues, and supports integration with existing React apps via OctaneCompat islands.
Cyberscript
2 months ago
- 易于学习，支持动态和静态类型选项。
- 通过协程（轻量级线程）支持并发。
- 设计上内存安全。
- 通过libcyber和C-ABI兼容性实现FFI（外部函数接口）并可嵌入。
- 跨平台，快速虚拟机与即时编译器。
- 可选静态类型以提升性能。
- 适用场景包括快速脚本编写及性能关键任务。
- 互操作功能支持嵌入应用程序并自动生成绑定。
- 开源项目，欢迎贡献与支持。
Pgtestdb's template cloning approach to testing is fast
2 months ago
- pgtestdb 是一个 Go/Postgres 测试包，它利用 Postgres 模板数据库实现快速的测试数据库克隆。
- 模板数据库克隆比从零迁移测试数据库更快，并且比基于 Docker 的方法更轻量。
- River 的测试套件使用基于模式的隔离方法，该方法比测试事务慢，但具有比数据库更轻量等优点。
- 性能比较显示，pgtestdb 克隆方法和创建+迁移模式方法的设置时间相似（约100毫秒）。
- 由于测试模式池化和复用，避免了重新迁移，River 的基于模式的方法在总体挂钟时间上快了3.5倍。
- 模式复用同样可以应用于 pgtestdb，可能将大型测试套件的测试设置时间减少到10-20毫秒。
- 作者推荐将 pgtestdb 用于端到端测试，但由于其附带对模式配置的验证，作者将继续使用 River 的基于模式的方法。
Interconverting std::function with copyable_function
2 months ago
- C++11的std::function存在设计缺陷：臃肿的API、可变调用对象下const operator()的约束，以及异常处理导致无法声明noexcept。
- C++26引入了std::copyable_function以修复这些问题，但仍保留了隐式转换和nullptr赋值等次优设计。
- copyable_function与function可相互转换，但简单实现可能形成调用对象的“链表”，导致性能随时间下降。
- libstdc++当前因包装器嵌套呈现O(n)调用开销，而Microsoft STL避免了此问题，libc++尚未实现。
- 在既有代码中混用copyable_function和function会导致逻辑内存泄漏和执行变慢，特别是频繁转换时。
- 建议：在同一代码库中避免混用这两种类型；新代码应编写自定义类型擦除调用对象，或始终使用同一类型。
How Do I Profile eBPF Code?
2 months ago
- 使用简单的C测试工具测量eBPF代码的性能影响，该工具在缓存热状态下通过syscall(SYS_openat)计时文件打开操作。
- 启用BPF JIT并通过sysctl命令暴露符号，以便perf能够解析eBPF程序名称，而不是显示未知地址。
- 在不使用eBPF的情况下运行基线测试，然后使用perf record启用eBPF进行性能分析，参数包括taskset、chrt、帧指针和每秒997个样本。
- 分析perf报告以识别瓶颈，例如bpf_lsm_file_open钩子及其尾部调用，这些可能主导开销。
- 重点关注性能分析方法；实际开销取决于eBPF钩子的实现，并可通过缓存或更好的算法进行优化。
After Credentials
2 months ago
- The US has shifted from credential-based to performance-based evaluation over the past 25 years, unlike South Korea where university entrance exams still dominate.
- Credentials originated as an improvement over bribery and family influence, but they are imperfect and lead to cram schools that exploit the system.
- Parents naturally try to use their wealth or power to give their children an advantage, which society must counteract to ensure meritocracy.
- Improving credentials is a long-term solution, but a more effective approach is to reduce the importance of credentials by measuring actual performance.
- Small organizations and startups evaluate performance directly, making credentials less relevant, and this trend is spreading through the economy.
- The rise of market-based pay for young workers, exemplified by yuppies and startups, has driven the shift from seniority to performance-based rewards.
- Encouraging an economy of smaller units and measuring performance is a better way to prevent intergenerational power transmission than relying on credentials alone.
Entropic Thoughts
2 months ago
- METR 研究表明，LLM 通过测试的次数多于生成可合并代码的次数，采用更严格的成功标准（维护者批准）后，性能显著降低。
- 使用更严格的标准时，50% 的成功时间窗口从 50 分钟缩短至 8 分钟。
- 对随时间变化的合并率的分析表明，自 2025 年初以来未出现显著改善，尽管 2024 年底可能有一次跃升。
- Brier 评分比较显示，分段常数或常数函数比平缓上升斜率能更好预测合并率，这与持续改进的说法相矛盾。
- 作者质疑炒作与现实表现之间的差距，并指出 2025 年类似的进步说法未得到数据证实。
JAX: commitment issues
2 months ago
- Creating an array with `jax.default_device` does not commit it to that device; JAX may move it elsewhere.
- Simple array lookups (e.g., `array[0]`) on an uncommitted CPU array can take over 5 seconds due to implicit GPU transfers.
- Explicitly committing an array with `jax.device_put(array, cpu0)` reduces lookup times dramatically (e.g., from 1.2s to <0.0002s).
- The issue stems from JAX moving the entire uncommitted array to the GPU for each lookup, causing severe performance degradation.
- For CPU-bound data like training datasets, always use `device_put` to nail arrays to the desired device and avoid hidden GPU overhead.
Regular expression speed and error rates
2 months ago
- ICD-10代码的正则表达式：[A-TV-Z][0-9][0-9AB]\.?[0-9A-TV-Z]{0,4}排除U作为首字母，但允许其出现在后面
- 速度：正则搜索（egrep）处理800 KB文件耗时18毫秒，而列表搜索（grep）耗时386秒——快了五个数量级。
- 错误率：最初零假阴性，但后来由于标准变动，三个代码（U070、U071、U099）变为假阴性；正则表达式比穷举列表更具前瞻性。
- 假阳性率取决于上下文：在医疗笔记中较低，但在随机字母数字文本中极高（99.9986%的匹配为假）。
- 可选的点号可能出现在没有后续字母数字字符的情况下，尽管不符合标准——实际使用可能有所差异。
Before You memo() — overreacted
2 months ago
- Before applying memo() or useMemo(), first try to split components that change from those that don't.
- Solution 1: Move state down by extracting the part of the UI that depends on the state into its own component.
- Solution 2: Lift content up by passing unchanged parts (e.g., as children prop) to the state-dependent component to prevent re-rendering.
- These techniques improve code clarity and data flow, with performance as a bonus.
- They complement memo() and useMemo()—use the Profiler and memo() only when these simpler methods aren't enough.
Claude Opus 5
2 months ago
- Claude Opus 5 是Anthropic公司的新模型，以Claude Fable 5一半的价格提供接近前沿的智能。
- 它在编码和知识工作基准测试（如Frontier-Bench和GDPval-AA）上取得了最先进的结果，但在网络安全方面落后于Mythos 5。
- Opus 5专为日常使用而设计，与前代Opus 4.8相比，效率和成本效益有所提升。
- 它在软件工程、知识工作和科学研究任务中表现出色，通常以更低成本超越其他模型。
- 该模型展现出强大的自主性和彻底性，例如编写自己的计算机视觉管线来解决问题，并修复人工补丁遗漏的漏洞。
- 早期访问客户报告在金融建模、法律工作、代码审查和自主工作流程等领域有显著改进。
- Opus 5与安全原则高度一致，表现出较低的欺骗行为和滥用倾向。
- 它包含针对网络安全和生物学的安全措施，具有自动回退功能和企业级网络验证计划。
- Opus 5现已推出，价格为每百万输入代币5美元，每百万输出代币25美元，并提供快速模式选项。
Everyone Should Know SIMD
2 months ago
- SIMD使CPU能够并行处理多个值，常用于加速大数据集上的循环。
- 常见的SIMD代码遵循五个步骤：广播常量、循环处理向量宽度大小的块、执行并行操作、归约结果，以及用标量尾部处理剩余部分。
- 一个真实示例（搜索控制字符）展示了标量循环如何被向量化，实现4倍到16倍的加速。
- 编译器可以自动向量化简单循环，但往往受限；手动SIMD提供了明确且可预测的性能。
- 每个开发者都应该理解SIMD基础知识，并毫无畏惧地识别向量化的机会。
Some more things about Django I've been enjoying
2 months ago
- 作者正在学习使用2010年风格的后端方法（基于Django）构建网站，专注于SQL数据库和服务器端渲染的HTML。
- 作者欣赏的Django关键特性包括：用于可读的类SQL过滤器的查询构建器、用于URL格式化和日期处理的模板过滤器、用于动态链接的查询字符串过滤器，以及自动数据库迁移。
- 作者更喜欢基于函数的视图而非基于类的继承来组织代码，认为在Python中继承不够直观。
- 性能方面的担忧包括：应对流量突发、缓存策略和模板优化；启用缓存的模板加载器将请求处理能力从每秒2-3次显著提升至12次。
- 作者认为Django的设置文件令人困惑，并指出性能问题往往源于错误配置（如模板缓存未启用）而非数据库查询缓慢。
FFmpeg gets 1.372x faster RGB24-to-RGBA conversion with AVX-512
2 months ago
- FFmpeg 获得 AVX-512 优化，像素格式转换速度提升 1.372 倍。
- 开发者 Niklas Haas 在 libswscale 中利用 AVX-512 的 VPERMB 指令实现更优的视频缩放效果。
- 此项优化使 AMD Zen 4+ 及 Intel Xeon/AVX-512 CPU 在 RGB24 转 RGBA 格式转换中受益。
SQLite Is All You Need
2 months ago
- SQLite 在 WAL 模式下，能用一个 343MB 的单文件处理包含 5 万用户、100 万帖子和数百万次互动的社交网络。
- 最复杂的查询（带计数的时间线连接查询）在笔记本电脑上每秒可处理 3,654 次请求，相当于每天 3.15 亿次请求。
- WAL 模式消除了 SQLITE_BUSY 错误，并允许并发读写，而旧的回滚日志模式则会导致严重的性能下降。
- 局限性包括：由于缓存失效，读取操作在并发写入时扩展性差；只能有一个全局写入器；没有内置故障转移；不适合高写入争用或大规模分析场景。
- 在廉价的 VPS 上，单核仍能每天处理超过 1.1 亿次时间线请求，这使得 SQLite 对大多数应用来说都是可行的。
- 建议：使用 STRICT 表确保类型安全；优先考虑单核速度和足够的内存来容纳数据库；避免使用网络存储；考虑使用专用核心以获得更好的 p99 延迟。
- 开发优势包括：本地数据库即文件；使用隔离数据库进行轻松测试；部署简单；运维开销极小。
- 备份是直接的文件拷贝，而 Litestream 等工具支持持续复制。
- 在轻量级端点上，Bun 与 bun:sqlite 表现更好，但在复杂查询上表现不及 Node 与 better-sqlite3，这强调了根据具体工作负载进行测量的必要性。
- 文章认为，过早使用如 Postgres 这样的复杂数据库进行扩展通常是不必要的；在出现明确的扩展信号之前，SQLite 足以满足大多数项目的需求。
Are you telling me a readonly property is wrecking my performance?
2 months ago
- 在Letta Desktop中发现了一个性能问题：随着使用量增加，产品速度变慢，最初怀疑是由于代码未优化所致。
- 根本原因被确定为使用了'el.scrollTop = el.scrollHeight;'来在新消息时滚动UI，假设scrollHeight是一个静态且高性能的只读属性。
- 实际上，scrollHeight是动态的，并在访问时重新计算，当在高消息流期间频繁更新时会导致速度变慢。
- Chromium的实现显示scrollHeight会触发布局更新，使其在频繁使用时性能不佳。
- 解决方案是使用一个非常大的数字代替精确计算scrollHeight，依赖于边界行为。
- 关键建议：只读属性可能是动态的并影响性能，尤其是在发生明显变化时。
- 教训包括质疑关于属性性能的假设，以及优化UI交互。
Litert.js, Google's High Performance Web AI Inference
2 months ago
- LiteRT.js 是 LiteRT 的 JavaScript 绑定，用于在 Web 浏览器中直接运行 AI 模型，支持本地、设备端推理，从而增强隐私性、实现零服务器成本以及超低延迟。
- 通过利用 WebAssembly 和硬件加速（包括 CPU 端的 XNNPACK、GPU 端的 ML Drift，以及 NPU 端的 WebNN），它在性能上超越了之前如 TensorFlow.js 等解决方案。
- 其关键特性包括：通过 LiteRT Torch 进行 PyTorch 模型转换、通过 AI Edge Quantizer 进行针对性量化以获得模型尺寸和性能提升，并支持多种硬件后端（CPU、GPU、NPU）。
- 基准测试显示，在 CPU 和 GPU 上，LiteRT.js 的性能比其它 Web 运行时快达 3 倍；借助 GPU/NPU 加速，在物体跟踪和音频处理等实时应用中可实现 5 至 60 倍的速度提升。
- 演示实现包括：从网络摄像头视频流中实时生成 3D 点云的 Depth Anything，以及可实现 4 倍图像超分的 Real-ESRGAN，并官方支持导出 Ultralytics YOLO 模型。
- 其集成过程简单，提供了简洁的 JavaScript API 用于加载、编译和运行 .tflite 模型，未来的开发重点将集中在 WebNN 集成和生成式 AI 支持上。
EF Core 11 makes your split queries faster
3 months ago
- EF Core 11 通过从集合查询中剪除不必要的引用导航属性，提升了拆分查询的性能。
- 在 EF Core 10 中，包含多个引用导航属性的拆分查询会在集合查询中引入额外的 JOIN 和 ORDER BY 列，导致效率低下。
- EF Core 11 移除了这些不必要的连接，从而以更少的数据库工作和内存分配实现更快的查询。
- 基准测试显示，与 EF Core 10 相比，在 EF Core 11 中使用拆分查询时，执行时间和内存使用量均有所减少。
Cargo-nextest: 3x faster than cargo test, per-test isolation, first-class CI
2 months ago
- 清晰的用户界面，用于一目了然地显示测试通过/失败状态。
- 通过现代执行方式，速度比cargo test快达3倍。
- 使用表达式进行高级选择，以过滤测试。
- 检测并终止缓慢的测试；支持压力测试。
- 可定制的测试设置：重试、标记为重度测试、串行运行。
- 记录运行情况，重放CI，重新运行失败的测试，导出Perfetto跟踪。
- 对CI友好：归档、分区、导出JUnit、使用配置文件。
- 设置脚本用于测试前的数据库、服务和固定装置准备。
- 生态系统工具：覆盖率、变异测试、调试器、探查器。
- 跨平台支持：Linux、Mac、Windows、Unix；提供二进制或源代码。
- 开源项目，从独立项目到大型公司都值得信赖。
- 注重细节，提供基础设施级别的可靠性。

performance

You might want to build your WebApp in Canvas instead of HTML

Octane – React's programming model, compiled

Cyberscript

Pgtestdb's template cloning approach to testing is fast

Interconverting std::function with copyable_function

How Do I Profile eBPF Code?

After Credentials

Entropic Thoughts

JAX: commitment issues

Regular expression speed and error rates

Before You memo() — overreacted

Claude Opus 5

Everyone Should Know SIMD

Some more things about Django I've been enjoying

FFmpeg gets 1.372x faster RGB24-to-RGBA conversion with AVX-512

SQLite Is All You Need

Are you telling me a readonly property is wrecking my performance?

Litert.js, Google's High Performance Web AI Inference

EF Core 11 makes your split queries faster

Cargo-nextest: 3x faster than cargo test, per-test isolation, first-class CI