标签: AI Infra
此标签下的所有文章 "AI Infra".
深入浅出讲解 Agentic RL Infra 八大问题
从 RL、RLHF、RLVR 到多轮 Agent,讲清 Agentic RL Infra 的架构选型、同步异步、策略陈旧、训推不一致、策略算法、奖励与信用分配、Reward Hacking、环境噪声八大问题,结合公式、量化示例与原始论文分析遗留难题和未来方向。
当你输入 prompt 并且按下回车到大模型完整输出,发生了什么?
从回车键到最后一个 token,沿请求链路讲透浏览器、网络、操作系统、Transformer、KV cache、推理框架、CUDA 编译、GPU 与分布式系统,再看 RAG、缓存、安全和 Agent 如何组成真实的大模型产品。