标签: 分布式系统
此标签下的所有文章 "分布式系统".
当你输入 prompt 并且按下回车到大模型完整输出,发生了什么?
从回车键到最后一个 token,沿请求链路讲透浏览器、网络、操作系统、Transformer、KV cache、推理框架、CUDA 编译、GPU 与分布式系统,再看 RAG、缓存、安全和 Agent 如何组成真实的大模型产品。
此标签下的所有文章 "分布式系统".
从回车键到最后一个 token,沿请求链路讲透浏览器、网络、操作系统、Transformer、KV cache、推理框架、CUDA 编译、GPU 与分布式系统,再看 RAG、缓存、安全和 Agent 如何组成真实的大模型产品。