全部免费、不需要注册。内容来自我们自己在做推理服务与自动化时踩过的坑。
SM、warp 与显存层次 —— 理解 GPU 为什么快、什么时候不快。
从第一个 kernel 到 grid/block 的划分思路。
合并访问、共享内存、occupancy 的取舍。
用 profiler 找到真正的瓶颈，而不是凭感觉优化。
KV cache、批处理策略，以及为什么长上下文贵。
INT8/INT4 的代价与收益，什么时候不该量化。
KV cache、批处理、投机解码的工程取舍。
训练与部署中常见的内存与性能问题。
推理服务里真正会用到的那些 C++ 特性。
高并发推理服务的排队、超时与降级。
把知识变成可展示的项目。
AI Infra 岗位常考什么。