深色模式
这个域管什么
对象是机器与集群：算力、显存、带宽、吞吐。
深色模式
对象是机器与集群：算力、显存、带宽、吞吐。
对象是**机器与集群**：算力、显存、带宽、吞吐。
| 名称 | 进度 | 说明 |
|---|---|---|
| 硬件与拓扑 | ○ | GPU/NPU 规格解读、NVLink/IB 拓扑、显存带宽、选型与成本 |
| 算子与内核开发 | ○ | CUDA 编程模型、Tensor Core、FlashAttention 类算子、Triton、算子融合 |
| 分布式训练 | ○ | 数据/张量/流水/序列并行、ZeRO、检查点与容错、混合精度 |
| 集合通信 | ○ | NCCL 原语与算法、通信计算重叠、网络瓶颈定位 |
| 推理服务 | ○ | 连续批处理、PagedAttention、Prefill/Decode 分离、并行推理、SLA 保障 |
| 编译与运行时 | ○ | 图优化、TensorRT/vLLM/SGLang 架构、算子调度、内存池 |
| 资源调度 | ○ | K8s GPU 调度、队列与抢占、多租户隔离、弹性伸缩 |
| 数据与存储 | ○ | 训练数据管线、并行文件系统、缓存层、数据加载瓶颈 |
| 可观测与调优 | ○ | Profiling 工具链、MFU 计算、瓶颈定位方法、慢节点检测 |
| 成本工程 | ○ | 吞吐/成本模型、混部与抢占实例、量化部署的成本收益 |
| 端侧推理 | ○ | 移动与嵌入式部署、模型格式转换、NPU 适配 |
| 平台建设 | ○ | 实验管理、模型注册、CI 与回归、多集群管理 |