MapFlow

PUBLIC LEARNING ROADMAP

ML基础(面向搜广推面试的机器学习基础) 学习技能树

由 Skill Tree Engine 确定性生成的只读快照

26 个知识节点 · intermediate

发布者:miaoKK

知识目录

基础概念

机器学习基本概念与流程

构建面试表达的地基:训练/测试、泛化误差、监督/无监督范式,用于结构化回答任何模型问题的开场

建议预留 30 分钟

学习目标

  • 讲清泛化/泛化误差概念
  • 区分监督/无监督/半监督范式

关键概念

  • 泛化
  • 监督/无监督
  • 训练-测试集

为什么学习

  • 无需深入推导,但需能清晰复述泛化与偏差-方差的关系作为面试表达框架

如何检验理解

  • 能口头完整解释训练/测试误差与泛化误差的区别并举例

核心技能

损失函数与优化目标

交叉熵/MSE/Hinge 的数学形式与适用场景,是 LR/FM/DeepFM 推导的核心起点

建议预留 45 分钟

学习目标

  • 推导各损失形式
  • 解释分类用交叉熵的原因

关键概念

  • 交叉熵
  • 对数损失
  • MSE
  • Hinge

为什么学习

  • 必须能解释为何分类用交叉熵而非 MSE,并能推导交叉熵梯度,是必考追问点

如何检验理解

  • 能推导交叉熵对 logit 的梯度并解释 MSE 用于分类的缺陷

核心技能

偏差-方差权衡与正则化

欠/过拟合本质与 L1/L2、Dropout、早停,支撑正则化必考题

建议预留 45 分钟

学习目标

  • 解释偏差-方差权衡
  • 推导 L1/L2 正则化机制

关键概念

  • 过拟合
  • L1/L2 正则
  • Dropout
  • 早停

为什么学习

  • 需理解 L1/L2 的几何与贝叶斯先验解释,能解释稀疏性来源,是高频追问

如何检验理解

  • 能画出 L1/L2 约束的几何图并解释 L1 稀疏性

核心技能

特征工程

归一化/离散化/交叉/embedding 化/缺失值处理在搜广推的落地应用

建议预留 60 分钟

学习目标

  • 掌握特征归一化/离散化/交叉
  • 理解缺失值与 embedding 化

关键概念

  • 归一化
  • 离散化/分桶
  • 特征交叉
  • embedding

为什么学习

  • 需能结合实际推荐场景讲清各特征处理方法的目的与适用性,不必深究数学

如何检验理解

  • 能针对一个 CTR 场景列出特征预处理步骤并说明理由

核心技能

推荐系统链路总览

召回-粗排-精排-重排全链路、各阶段模型与目标,作为领域框架主线

建议预留 40 分钟

学习目标

  • 讲清各阶段职责
  • 理解瓶颈与方案
  • 掌握重排多样性

关键概念

  • 召回
  • 粗排
  • 精排
  • 重排

为什么学习

  • 领域核心,需能完整讲清各阶段职责与瓶颈,是体系化回答的骨架

如何检验理解

  • 能画出召回-粗排-精排-重排链路并说明各阶段模型与目标

核心技能

梯度下降与优化器

SGD/Momentum/Adam 更新规则与区别,直接支撑手推参数更新与调参问答

建议预留 60 分钟

学习目标

  • 推导各优化器更新规则
  • 解释梯度消失/爆炸与处理

关键概念

  • SGD
  • Momentum
  • AdaGrad
  • Adam
  • 学习率

为什么学习

  • 需能手写 Adam 更新公式并比较各优化器优缺点,是高频基础和追问来源

如何检验理解

  • 能写出 SGD/Momentum/Adam 更新式并说明学习率与动量的作用

核心技能

决策树与 GBDT

信息增益/基尼、剪枝、Boosting 原理、GBDT 叶子特征,是树系问答与演进脉络基础

建议预留 75 分钟

学习目标

  • 理解分裂准则与剪枝
  • 掌握 Boosting 原理
  • 理解叶子特征

关键概念

  • 信息增益
  • 基尼系数
  • Boosting
  • 梯度提升

为什么学习

  • 需理解 GBDT 的 Boosting 思想与梯度提升,能讲清为何 GBDT 做叶子特征有效

如何检验理解

  • 能解释 GBDT 每棵树拟合残差/负梯度的思想

核心技能

Embedding 与向量化

Word2Vec/Item2Vec/Graph Embedding,物品/用户向量表示在召回中的角色

建议预留 60 分钟

学习目标

  • 理解 Word2Vec 原理
  • 掌握 Item2Vec 应用
  • 理解 Graph Embedding

关键概念

  • Word2Vec
  • Item2Vec
  • Graph Embedding
  • 向量表示

为什么学习

  • 需理解 embedding 为何能降维表达高维稀疏特征,并用于召回向量检索

如何检验理解

  • 能解释 item2vec 如何学习物品向量并用于相似度召回

核心技能

逻辑回归(LR)

CTR 预估基线与一切推导的起手式:sigmoid、交叉熵损失、梯度、特征离散化

建议预留 60 分钟

学习目标

  • 完整手推 LR 梯度
  • 解释 sigmoid 与离散化
  • 讲清在线更新

关键概念

  • sigmoid
  • 对数几率
  • 梯度链式法则
  • 特征离散化

为什么学习

  • 面试最核心手推题,需能完整白板推导并说明为何特征要离散化及在线更新

如何检验理解

  • 能从头手写 LR 的交叉熵损失、梯度链式法则与参数更新公式

核心技能

XGBoost 与 LightGBM

二阶近似、直方图算法、leaf-wise/depth-wise 分裂与调参对比

建议预留 75 分钟

学习目标

  • 理解二阶近似
  • 对比 leaf-wise/depth-wise
  • 掌握调参要点

关键概念

  • 二阶泰勒
  • 直方图算法
  • leaf-wise
  • 正则项

为什么学习

  • 需能对比 XGB/LGB 的分裂策略差异与调参要点,用于树系进阶追问

如何检验理解

  • 能说清 XGB 二阶泰勒展开与 LGB 直方图加速的原理差异

核心技能

神经网络与反向传播

MLP、激活函数、前向/反向传播、链式法则、梯度消失/爆炸,DNN 系模型地基

建议预留 75 分钟

学习目标

  • 掌握链式法则反向传播
  • 理解激活函数与梯度消失

关键概念

  • MLP
  • 激活函数
  • 链式法则
  • 梯度消失/爆炸

为什么学习

  • 反向传播是 DeepFM/DIN 推导的前提,需能手写单层 BP 并解释激活函数选择

如何检验理解

  • 能推导一个两层 MLP 的反向传播梯度公式

核心技能

协同过滤与矩阵分解

UserCF/ItemCF、SVD、LFM 作为传统召回方法与双塔召回的对比基础

建议预留 60 分钟

学习目标

  • 理解 UserCF/ItemCF
  • 掌握矩阵分解/LFM
  • 对比召回方法

关键概念

  • 协同过滤
  • SVD
  • LFM
  • 隐向量

为什么学习

  • 召回必考,需理解 CF 与矩阵分解思想,并能对比传统召回与向量召回

如何检验理解

  • 能实现或解释 ItemCF 的相似度计算与 LFM 隐向量

核心技能

模型评估与离线指标

AUC/logloss/GAUC/NDCG/P-R-F1 与线上线下不一致问题,支撑评估类问答

建议预留 60 分钟

学习目标

  • 掌握各离线指标定义
  • 分析线上线下不一致原因

关键概念

  • AUC
  • logloss
  • NDCG
  • P-R-F1
  • GAUC

为什么学习

  • 需能解释各指标定义、适用场景及线上线下指标映射失败的原因

如何检验理解

  • 能区分 AUC 与 GAUC 并按场景选择合适指标并说明理由

核心技能

FM 与特征交叉

因子分解机对稀疏二阶交叉的隐向量处理与 O(kn) 复杂度化简,面试手推重点

建议预留 60 分钟

学习目标

  • 推导 FM 化简公式
  • 理解隐向量思想
  • 对比 LR 与 FM

关键概念

  • 隐向量
  • 二阶交叉
  • 复杂度优化

为什么学习

  • 必须能完整推导 FM 二次项化简公式,是高概率手写题

如何检验理解

  • 能推导 FM 二次项从 O(kn²) 化简为 O(kn) 的公式

核心技能

DIN 注意力机制

target-attention 自适应加权历史行为、self-attention 基础,面试手推与追问重点

建议预留 90 分钟

学习目标

  • 推导 DIN target-attention
  • 理解注意力动机
  • 掌握 self-attention 基础

关键概念

  • target-attention
  • query/key/value
  • 多头注意力
  • 位置编码

为什么学习

  • 明确能力项,需能推导 DIN 的 target-attention 权重公式并解释自适应加权的动机

如何检验理解

  • 能推导 DIN attention 权重计算并解释为何用候选 item 做 attention 的 query

核心技能

在线学习与实时更新

在线 LR/FTRL、流式更新、实时特征、延迟反馈与校准

建议预留 60 分钟

学习目标

  • 理解在线 LR/FTRL
  • 掌握实时特征与时延
  • 理解校准

关键概念

  • FTRL
  • 流式更新
  • 延迟反馈
  • calibration

为什么学习

  • 搜广推独有话题,需理解 FTRL 稀疏化与延迟反馈的影响,作为加分表达

如何检验理解

  • 能解释 FTRL 为何适合在线稀疏更新

核心技能

AUC 与 GAUC 深入

AUC 物理含义与计算、GAUC 用户级分组在广告排序中的意义,是高频深挖点

建议预留 45 分钟

学习目标

  • 理解 AUC 物理含义与计算
  • 解释 GAUC 分组意义

关键概念

  • AUC 排序概率
  • GAUC 用户级
  • 秩统计

为什么学习

  • 需能解释 AUC 等价于随机正负样本排序正确的概率,及 GAUC 为何要按用户分组

如何检验理解

  • 能解释 AUC 的排序概率含义并手算一个小例子的 AUC

核心技能

DeepFM / Wide & Deep

Wide 记忆 + Deep 泛化、DeepFM 的端到端 FM+DNN 结合架构与差异

建议预留 75 分钟

学习目标

  • 讲清 Wide&Deep 记忆与泛化
  • 理解 DeepFM 端到端结构
  • 对比显式/隐式交叉

关键概念

  • 记忆/泛化
  • 端到端
  • 共享 embedding
  • 显式/隐式交叉

为什么学习

  • 高频考点,需讲清记忆/泛化分工、FM 与 DNN 共享 embedding 的动机与显式/隐式交叉差异

如何检验理解

  • 能画出 DeepFM 结构图并解释 wide 与 deep 各自的作用

核心技能

双塔模型与召回

DSSM 双塔结构、user/item 塔、向量检索(ANN/Faiss)、负采样与冷启动

建议预留 75 分钟

学习目标

  • 理解双塔结构
  • 掌握负采样策略
  • 理解 ANN 向量检索

关键概念

  • 双塔
  • DSSM
  • ANN/Faiss
  • 负采样
  • 冷启动

为什么学习

  • 领域核心,需讲清双塔如何解耦计算、训练与检索一致性、负采样策略

如何检验理解

  • 能解释双塔为何要分开 user/item 塔并说明训练与 ANN 检索一致性问题

补充知识

模型压缩与工程优化

量化、剪枝、蒸馏、P99 延迟与吞吐在排序链路的意义

建议预留 45 分钟

学习目标

  • 了解模型压缩手段
  • 理解延迟与吞吐权衡

关键概念

  • 量化
  • 剪枝
  • 蒸馏
  • P99

为什么学习

  • 工程向话题,面试 ML 基础时频次较低,降级为认识即可,作加分谈资

如何检验理解

  • 能说出量化/剪枝/蒸馏三种压缩手段的大致原理

补充知识

概率校准与样本偏差

CTR 校准、样本选择偏差、延迟反馈、IPS/Propensity 消偏

建议预留 60 分钟

学习目标

  • 了解校准概念
  • 理解样本偏差
  • 了解 IPS 消偏

关键概念

  • 校准
  • 样本选择偏差
  • 延迟反馈
  • IPS

为什么学习

  • 前沿偏冷,面试主考基础阶段可弱化为了解概念,作为高级加分项

如何检验理解

  • 能解释什么是样本选择偏差与倾向性加权消偏的基本思想

补充知识

大规模稀疏训练与环境认知

分布式训练、PS 架构、Embedding 参数量与线上推理延迟的权衡、LLM 与推荐结合认知

建议预留 40 分钟

学习目标

  • 了解分布式/PS
  • 理解 LLM+推荐前沿
  • 认知 Embedding 规模

关键概念

  • PS 架构
  • 分布式训练
  • LLM+推荐

为什么学习

  • nice-to-have 话题,作为加分认知了解 PS 架构与 LLM 结合推荐的前沿方向即可

如何检验理解

  • 能说出 PS 架构与 LLM 结合推荐的大致方向

核心技能

多任务学习与 ESMM/MMoE

MMoE/PLE 的专家网络与门控,ESMM 处理 CTR/CVR 样本选择偏差

建议预留 90 分钟

学习目标

  • 理解 ESMM/样本偏差
  • 掌握 MMoE/PLE 门控
  • 理解共享底层局限

关键概念

  • 样本选择偏差
  • 专家网络
  • 门控
  • 全空间建模

为什么学习

  • 推荐方向但面试频率较 LR/DeepFM 略低,需理解 ESMM 全空间建模与 MMoE 门控机制

如何检验理解

  • 能说明 ESMM 如何通过全空间建模缓解 CVR 样本选择偏差

补充知识

A/B 实验与分层评测

实验设计、分层假设检验、AA 实验、显著性、辛普森悖论

建议预留 60 分钟

学习目标

  • 理解实验设计
  • 掌握显著性检验
  • 了解辛普森悖论

关键概念

  • 假设检验
  • AA 实验
  • 显著性
  • 辛普森悖论

为什么学习

  • 非 ML 基础主考方向,但作为工程落地加分项,理解假设检验与显著性即可

如何检验理解

  • 能解释 A/B 实验显著性检验与辛普森悖论的含义

核心技能

CTR 预估模型演进

LR → GBDT+LR → FM/FFM → DNN 系(PNN、DeepFM、DIN/DIEN)的演进脉络串联

建议预留 90 分钟

学习目标

  • 串联演进脉络
  • 理解各模型动机
  • 形成结构化表达

关键概念

  • LR→GBDT+LR
  • FM/FFM
  • PNN/DeepFM
  • DIN/DIEN

为什么学习

  • 衡量体系化能力的关键,需能串起整个演进逻辑与各模型解决的问题

如何检验理解

  • 能按演进顺序讲清每个模型解决的痛点与不足之处

核心技能

手写实现与结构化表达

Python/NumPy 手写 LR、FM、DIN 核心算子与 TopK 检索,配合动机-结构-损失-优缺点的表达模板

建议预留 120 分钟

学习目标

  • 手写核心模型算子
  • 掌握结构化表达模板
  • 应对追问

关键概念

  • NumPy 手写
  • 训练迭代
  • 结构化表达

为什么学习

  • 明确要求的综合能力,需能手写核心模型代码并按结构化模板应对追问

如何检验理解

  • 能用 NumPy 手写 LR 训练循环、FM 前向与 DIN attention 算子

前置关系与知识联系

结合互动地图查看具体关系类型,再选择下一步。