标签: LLM 推理

此标签下的所有文章 "LLM 推理".

• 当你输入 prompt 并且按下回车到大模型完整输出，发生了什么？

  2026年10月16日

  从回车键到最后一个 token，沿请求链路讲透浏览器、网络、操作系统、Transformer、KV cache、推理框架、CUDA 编译、GPU 与分布式系统，再看 RAG、缓存、安全和 Agent 如何组成真实的大模型产品。