Hasty Briefsbeta

双语

LLMs Are Cheap

a year ago
  • #LLMs
  • #Generative AI
  • #Cost Analysis
  • 与传统观念相反,生成式AI的运营成本其实相对较低
  • 大语言模型(LLM)的推理成本已大幅下降,比网页搜索API便宜得多
  • 对比显示LLM成本可比必应/谷歌等搜索API低至25倍
  • 关于LLM成本受补贴或未计入后端服务的质疑被驳斥,证明AI的经济可行性
  • 未来影响包括:AI公司财务可行性超预期,以及AI智能体的后端服务成本可能带来的挑战