技术专栏 第1191页

前面在文章
《 访谈李继刚：从哲学层面与大模型对话 》中提到，继刚总结去年写提示词的核心理念是“
清晰表达”，而今年则是“
压缩表达”，既而才有火爆全网的Lisp风格提示词呈现给大家。

/src/server

.NET 9 移除了 Swashbuckle.AspNetCore，因为其维护不力，并转向 Microsoft.AspNetCore.OpenApi。除了 Swashbuckle，还有 NSwag、Scalar等替代方案。Scalar简单易用，支持多语言和平台，集成方便。开发者可通过 nuget 安装 Scalar.AspNetCore 包，再用 app.MapScalarApiReference() 即可实现集成。Scalar 界面简洁，支持夜间模式，并可轻松添加 JWT 认证。

热点这块受限影响的是信道，每个国家都有雷达信道以及其它军事等受限信道，使用信道时避开这些雷达信道。

如今，风头最劲的开放权重 LLM 参数量一般都有数十亿到数千亿 (说你呢 Llama-3.1-405B )，这给在生产环境中部署这些饿兽带来了一系列工程挑战。挑战之一就是: 大模型文本生成速度很慢。为此，社区开发了很多不同的技术来加速解码过程。辅助生成，也称为
投机解码，是其中一种非常常用且实用的方法，可在不损失准确性的情况下加速 LLM 推理。本文，我们将了解辅助生成的工作原理，并分享我们的最新研究成果，该成果使得对 Hugging Face Hub
14 万个语言模型 中的
任意一个 模型进行加速成为可能，！

情况是这样子的，先看图:

各数据类型介绍：