LLM 输出配置 (LLM output configuration)

2026-01-04 分类：技术专栏 阅读(464) 评论(0)

　　一个重要的配置设置是响应中要生成的令牌数量。生成更多令牌需要 LLM 进行更多计算，导致更高的能耗、可能更慢的响应时间以及更高的成本。