你好,我是 YK Liu。
RSS Feed欢迎来到我的个人主页。这里记录思考、学习与创造,也收藏值得反复阅读的文字。
把想法写下来,让探索留下痕迹。你可以从最新文章开始,或了解我。
精选文章
深入浅出讲解 Agentic RL Infra 八大问题
从 RL、RLHF、RLVR 到多轮 Agent,讲清 Agentic RL Infra 的架构选型、同步异步、策略陈旧、训推不一致、策略算法、奖励与信用分配、Reward Hacking、环境噪声八大问题,结合公式、量化示例与原始论文分析遗留难题和未来方向。
当你输入 prompt 并且按下回车到大模型完整输出,发生了什么?
从回车键到最后一个 token,沿请求链路讲透浏览器、网络、操作系统、Transformer、KV cache、推理框架、CUDA 编译、GPU 与分布式系统,再看 RAG、缓存、安全和 Agent 如何组成真实的大模型产品。
Memory Bank 机制与加速计算
用了 shared memory 为什么仍然慢?从地址与 bank 的交错映射出发,读懂冲突、广播与 32×33 padding,再用 Nsight 把推导落实为可验证的优化。
CUDA 优化核心思想
从一个推理服务的矩阵乘瓶颈出发,理解 shared memory tile 与 double buffer pipeline,并把优化落实到测量和交付。
最新文章
深入浅出讲解 Agentic RL Infra 八大问题
从 RL、RLHF、RLVR 到多轮 Agent,讲清 Agentic RL Infra 的架构选型、同步异步、策略陈旧、训推不一致、策略算法、奖励与信用分配、Reward Hacking、环境噪声八大问题,结合公式、量化示例与原始论文分析遗留难题和未来方向。
当你输入 prompt 并且按下回车到大模型完整输出,发生了什么?
从回车键到最后一个 token,沿请求链路讲透浏览器、网络、操作系统、Transformer、KV cache、推理框架、CUDA 编译、GPU 与分布式系统,再看 RAG、缓存、安全和 Agent 如何组成真实的大模型产品。
ncu 常用分析章节
从 nsys 选热点,到读懂 Nsight Compute 的启动、吞吐、内存、占用率、调度、stall 和源码指标,用一次矩阵加法对照把分析与独立计时串起来。
Memory Bank 机制与加速计算
用了 shared memory 为什么仍然慢?从地址与 bank 的交错映射出发,读懂冲突、广播与 32×33 padding,再用 Nsight 把推导落实为可验证的优化。