深色模式
这个域管什么
对象是模型:算法、训练过程、能力与局限。
深色模式
对象是模型:算法、训练过程、能力与局限。
对象是**模型**:算法、训练过程、能力与局限。
| 名称 | 进度 | 说明 |
|---|---|---|
| 学习理论基础 | ○ | 偏差方差、泛化界、过拟合、优化与损失设计 |
| 经典机器学习 | ○ | 线性模型、SVM、树模型与集成、聚类降维、特征工程 |
| 深度学习基础 | ○ | 反向传播、初始化与归一化、正则、优化器、训练技巧 |
| 网络架构 | ○ | CNN、RNN/LSTM、Transformer 结构细节、位置编码、注意力变体、MoE、状态空间模型 |
| 计算机视觉 | ○ | 检测分割、表征学习、扩散模型、视频理解 |
| 自然语言处理 | ○ | 分词与表示、序列标注、机器翻译、传统 NLP 任务 |
| 大模型预训练 | ○ | 数据配比与清洗、scaling law、并行策略选择、训练稳定性、长上下文 |
| 后训练与对齐 | ○ | SFT、RLHF/DPO/GRPO、奖励建模、推理能力训练、蒸馏 |
| 推理与能力 | ○ | 思维链、测试时计算、工具使用能力、能力涌现与评测争议 |
| 模型效率 | ○ | 量化、剪枝、蒸馏、投机解码、KV Cache 结构优化、稀疏化 |
| 多模态 | ○ | 视觉语言模型、语音、统一表征、跨模态对齐 |
| 评测 | ○ | benchmark 设计、污染问题、人评与自动评、LLM-as-judge 偏差 |
| 模型安全 | ○ | 提示注入与越狱机制、对抗样本、后门与投毒、幻觉成因、水印 |
| 强化学习 | ○ | MDP、值与策略方法、PPO、离线 RL、环境设计 |