The true cost of saying "Hi" to an AI agent24 days agohttps://quesma.com/blog/the-true-cost-of-saying-hi-to-an-ai-agent/AI代理在处理‘Hi’这样简单的问候语时常常会过度思考，尽管令牌消耗低，但时间成本很高。对14种模型的基准测试显示，等待时间（而非令牌定价）才是真正的开销；等待成本可能超过令牌成本的20倍。有些模型（例如Sonnet）对‘Hi’的回应会触发过多的工具调用，包括审计代码库和进行未经请求的提交。当遇到模糊提示时会出现失败率；像Haiku和MiniMax这样的模型在多次收到问候时都未能成功运行。更多...