Not everything should cost a token: the case for deterministic AIa month agohttps://www.vybe.build/blog/learn-what-not-to-tokenize将AI用于数据格式化这类确定性任务,与简单的脚本相比效率低下、成本高昂且容易出错。对于一次性任务,提示法速度很快,但用于重复性工作时会变得昂贵且不确定性高,导致高昂的token成本和上下文膨胀。应将任务分类为概率性(需要判断)的任务交由AI智能体处理,或确定性(精确且可重复)的任务交由应用处理,以优化成本和性能。避免将AI记忆笔记用作结构化数据的数据库;相反,对于结构化的大容量数据应使用真实数据库,对于非结构化的解释性上下文则使用笔记。更多...