【摘要】本文已于 2026.04.11 发表于公众号和知乎 1. 权重加载要解决什么问题？ 在阅读 vLLM 的权重加载实现之前，先理解它要解决的核心问题。 大模型的权重通常以 checkpoint 文件的形式存储在磁盘上。权重加载的任务就是：把这些文件中的张量，正确地填入模型(推理代码)的每一个参数中。这 阅读全文