基础概念
机器学习基本概念与流程
构建面试表达的地基:训练/测试、泛化误差、监督/无监督范式,用于结构化回答任何模型问题的开场
建议预留 30 分钟
学习目标
- 讲清泛化/泛化误差概念
- 区分监督/无监督/半监督范式
关键概念
- 泛化
- 监督/无监督
- 训练-测试集
为什么学习
- 无需深入推导,但需能清晰复述泛化与偏差-方差的关系作为面试表达框架
如何检验理解
- 能口头完整解释训练/测试误差与泛化误差的区别并举例
核心技能
损失函数与优化目标
交叉熵/MSE/Hinge 的数学形式与适用场景,是 LR/FM/DeepFM 推导的核心起点
建议预留 45 分钟
学习目标
- 推导各损失形式
- 解释分类用交叉熵的原因
关键概念
- 交叉熵
- 对数损失
- MSE
- Hinge
为什么学习
- 必须能解释为何分类用交叉熵而非 MSE,并能推导交叉熵梯度,是必考追问点
如何检验理解
- 能推导交叉熵对 logit 的梯度并解释 MSE 用于分类的缺陷
核心技能
偏差-方差权衡与正则化
欠/过拟合本质与 L1/L2、Dropout、早停,支撑正则化必考题
建议预留 45 分钟
学习目标
- 解释偏差-方差权衡
- 推导 L1/L2 正则化机制
关键概念
- 过拟合
- L1/L2 正则
- Dropout
- 早停
为什么学习
- 需理解 L1/L2 的几何与贝叶斯先验解释,能解释稀疏性来源,是高频追问
如何检验理解
- 能画出 L1/L2 约束的几何图并解释 L1 稀疏性
核心技能
特征工程
归一化/离散化/交叉/embedding 化/缺失值处理在搜广推的落地应用
建议预留 60 分钟
学习目标
- 掌握特征归一化/离散化/交叉
- 理解缺失值与 embedding 化
关键概念
- 归一化
- 离散化/分桶
- 特征交叉
- embedding
为什么学习
- 需能结合实际推荐场景讲清各特征处理方法的目的与适用性,不必深究数学
如何检验理解
- 能针对一个 CTR 场景列出特征预处理步骤并说明理由
核心技能
推荐系统链路总览
召回-粗排-精排-重排全链路、各阶段模型与目标,作为领域框架主线
建议预留 40 分钟
学习目标
- 讲清各阶段职责
- 理解瓶颈与方案
- 掌握重排多样性
关键概念
- 召回
- 粗排
- 精排
- 重排
为什么学习
- 领域核心,需能完整讲清各阶段职责与瓶颈,是体系化回答的骨架
如何检验理解
- 能画出召回-粗排-精排-重排链路并说明各阶段模型与目标
核心技能
梯度下降与优化器
SGD/Momentum/Adam 更新规则与区别,直接支撑手推参数更新与调参问答
建议预留 60 分钟
学习目标
- 推导各优化器更新规则
- 解释梯度消失/爆炸与处理
关键概念
- SGD
- Momentum
- AdaGrad
- Adam
- 学习率
为什么学习
- 需能手写 Adam 更新公式并比较各优化器优缺点,是高频基础和追问来源
如何检验理解
- 能写出 SGD/Momentum/Adam 更新式并说明学习率与动量的作用
核心技能
决策树与 GBDT
信息增益/基尼、剪枝、Boosting 原理、GBDT 叶子特征,是树系问答与演进脉络基础
建议预留 75 分钟
学习目标
- 理解分裂准则与剪枝
- 掌握 Boosting 原理
- 理解叶子特征
关键概念
- 信息增益
- 基尼系数
- Boosting
- 梯度提升
为什么学习
- 需理解 GBDT 的 Boosting 思想与梯度提升,能讲清为何 GBDT 做叶子特征有效
如何检验理解
- 能解释 GBDT 每棵树拟合残差/负梯度的思想
核心技能
Embedding 与向量化
Word2Vec/Item2Vec/Graph Embedding,物品/用户向量表示在召回中的角色
建议预留 60 分钟
学习目标
- 理解 Word2Vec 原理
- 掌握 Item2Vec 应用
- 理解 Graph Embedding
关键概念
- Word2Vec
- Item2Vec
- Graph Embedding
- 向量表示
为什么学习
- 需理解 embedding 为何能降维表达高维稀疏特征,并用于召回向量检索
如何检验理解
- 能解释 item2vec 如何学习物品向量并用于相似度召回
核心技能
逻辑回归(LR)
CTR 预估基线与一切推导的起手式:sigmoid、交叉熵损失、梯度、特征离散化
建议预留 60 分钟
学习目标
- 完整手推 LR 梯度
- 解释 sigmoid 与离散化
- 讲清在线更新
关键概念
- sigmoid
- 对数几率
- 梯度链式法则
- 特征离散化
为什么学习
- 面试最核心手推题,需能完整白板推导并说明为何特征要离散化及在线更新
如何检验理解
- 能从头手写 LR 的交叉熵损失、梯度链式法则与参数更新公式
核心技能
XGBoost 与 LightGBM
二阶近似、直方图算法、leaf-wise/depth-wise 分裂与调参对比
建议预留 75 分钟
学习目标
- 理解二阶近似
- 对比 leaf-wise/depth-wise
- 掌握调参要点
关键概念
- 二阶泰勒
- 直方图算法
- leaf-wise
- 正则项
为什么学习
- 需能对比 XGB/LGB 的分裂策略差异与调参要点,用于树系进阶追问
如何检验理解
- 能说清 XGB 二阶泰勒展开与 LGB 直方图加速的原理差异
核心技能
神经网络与反向传播
MLP、激活函数、前向/反向传播、链式法则、梯度消失/爆炸,DNN 系模型地基
建议预留 75 分钟
学习目标
- 掌握链式法则反向传播
- 理解激活函数与梯度消失
关键概念
- MLP
- 激活函数
- 链式法则
- 梯度消失/爆炸
为什么学习
- 反向传播是 DeepFM/DIN 推导的前提,需能手写单层 BP 并解释激活函数选择
如何检验理解
- 能推导一个两层 MLP 的反向传播梯度公式
核心技能
协同过滤与矩阵分解
UserCF/ItemCF、SVD、LFM 作为传统召回方法与双塔召回的对比基础
建议预留 60 分钟
学习目标
- 理解 UserCF/ItemCF
- 掌握矩阵分解/LFM
- 对比召回方法
关键概念
- 协同过滤
- SVD
- LFM
- 隐向量
为什么学习
- 召回必考,需理解 CF 与矩阵分解思想,并能对比传统召回与向量召回
如何检验理解
- 能实现或解释 ItemCF 的相似度计算与 LFM 隐向量
核心技能
模型评估与离线指标
AUC/logloss/GAUC/NDCG/P-R-F1 与线上线下不一致问题,支撑评估类问答
建议预留 60 分钟
学习目标
- 掌握各离线指标定义
- 分析线上线下不一致原因
关键概念
- AUC
- logloss
- NDCG
- P-R-F1
- GAUC
为什么学习
- 需能解释各指标定义、适用场景及线上线下指标映射失败的原因
如何检验理解
- 能区分 AUC 与 GAUC 并按场景选择合适指标并说明理由
核心技能
FM 与特征交叉
因子分解机对稀疏二阶交叉的隐向量处理与 O(kn) 复杂度化简,面试手推重点
建议预留 60 分钟
学习目标
- 推导 FM 化简公式
- 理解隐向量思想
- 对比 LR 与 FM
关键概念
- 隐向量
- 二阶交叉
- 复杂度优化
为什么学习
- 必须能完整推导 FM 二次项化简公式,是高概率手写题
如何检验理解
- 能推导 FM 二次项从 O(kn²) 化简为 O(kn) 的公式
核心技能
DIN 注意力机制
target-attention 自适应加权历史行为、self-attention 基础,面试手推与追问重点
建议预留 90 分钟
学习目标
- 推导 DIN target-attention
- 理解注意力动机
- 掌握 self-attention 基础
关键概念
- target-attention
- query/key/value
- 多头注意力
- 位置编码
为什么学习
- 明确能力项,需能推导 DIN 的 target-attention 权重公式并解释自适应加权的动机
如何检验理解
- 能推导 DIN attention 权重计算并解释为何用候选 item 做 attention 的 query
核心技能
在线学习与实时更新
在线 LR/FTRL、流式更新、实时特征、延迟反馈与校准
建议预留 60 分钟
学习目标
- 理解在线 LR/FTRL
- 掌握实时特征与时延
- 理解校准
关键概念
- FTRL
- 流式更新
- 延迟反馈
- calibration
为什么学习
- 搜广推独有话题,需理解 FTRL 稀疏化与延迟反馈的影响,作为加分表达
如何检验理解
- 能解释 FTRL 为何适合在线稀疏更新
核心技能
AUC 与 GAUC 深入
AUC 物理含义与计算、GAUC 用户级分组在广告排序中的意义,是高频深挖点
建议预留 45 分钟
学习目标
- 理解 AUC 物理含义与计算
- 解释 GAUC 分组意义
关键概念
- AUC 排序概率
- GAUC 用户级
- 秩统计
为什么学习
- 需能解释 AUC 等价于随机正负样本排序正确的概率,及 GAUC 为何要按用户分组
如何检验理解
- 能解释 AUC 的排序概率含义并手算一个小例子的 AUC
核心技能
DeepFM / Wide & Deep
Wide 记忆 + Deep 泛化、DeepFM 的端到端 FM+DNN 结合架构与差异
建议预留 75 分钟
学习目标
- 讲清 Wide&Deep 记忆与泛化
- 理解 DeepFM 端到端结构
- 对比显式/隐式交叉
关键概念
- 记忆/泛化
- 端到端
- 共享 embedding
- 显式/隐式交叉
为什么学习
- 高频考点,需讲清记忆/泛化分工、FM 与 DNN 共享 embedding 的动机与显式/隐式交叉差异
如何检验理解
- 能画出 DeepFM 结构图并解释 wide 与 deep 各自的作用
核心技能
双塔模型与召回
DSSM 双塔结构、user/item 塔、向量检索(ANN/Faiss)、负采样与冷启动
建议预留 75 分钟
学习目标
- 理解双塔结构
- 掌握负采样策略
- 理解 ANN 向量检索
关键概念
- 双塔
- DSSM
- ANN/Faiss
- 负采样
- 冷启动
为什么学习
- 领域核心,需讲清双塔如何解耦计算、训练与检索一致性、负采样策略
如何检验理解
- 能解释双塔为何要分开 user/item 塔并说明训练与 ANN 检索一致性问题
补充知识
模型压缩与工程优化
量化、剪枝、蒸馏、P99 延迟与吞吐在排序链路的意义
建议预留 45 分钟
学习目标
- 了解模型压缩手段
- 理解延迟与吞吐权衡
关键概念
- 量化
- 剪枝
- 蒸馏
- P99
为什么学习
- 工程向话题,面试 ML 基础时频次较低,降级为认识即可,作加分谈资
如何检验理解
- 能说出量化/剪枝/蒸馏三种压缩手段的大致原理
补充知识
概率校准与样本偏差
CTR 校准、样本选择偏差、延迟反馈、IPS/Propensity 消偏
建议预留 60 分钟
学习目标
- 了解校准概念
- 理解样本偏差
- 了解 IPS 消偏
关键概念
- 校准
- 样本选择偏差
- 延迟反馈
- IPS
为什么学习
- 前沿偏冷,面试主考基础阶段可弱化为了解概念,作为高级加分项
如何检验理解
- 能解释什么是样本选择偏差与倾向性加权消偏的基本思想
补充知识
大规模稀疏训练与环境认知
分布式训练、PS 架构、Embedding 参数量与线上推理延迟的权衡、LLM 与推荐结合认知
建议预留 40 分钟
学习目标
- 了解分布式/PS
- 理解 LLM+推荐前沿
- 认知 Embedding 规模
关键概念
- PS 架构
- 分布式训练
- LLM+推荐
为什么学习
- nice-to-have 话题,作为加分认知了解 PS 架构与 LLM 结合推荐的前沿方向即可
如何检验理解
- 能说出 PS 架构与 LLM 结合推荐的大致方向
核心技能
多任务学习与 ESMM/MMoE
MMoE/PLE 的专家网络与门控,ESMM 处理 CTR/CVR 样本选择偏差
建议预留 90 分钟
学习目标
- 理解 ESMM/样本偏差
- 掌握 MMoE/PLE 门控
- 理解共享底层局限
关键概念
- 样本选择偏差
- 专家网络
- 门控
- 全空间建模
为什么学习
- 推荐方向但面试频率较 LR/DeepFM 略低,需理解 ESMM 全空间建模与 MMoE 门控机制
如何检验理解
- 能说明 ESMM 如何通过全空间建模缓解 CVR 样本选择偏差
补充知识
A/B 实验与分层评测
实验设计、分层假设检验、AA 实验、显著性、辛普森悖论
建议预留 60 分钟
学习目标
- 理解实验设计
- 掌握显著性检验
- 了解辛普森悖论
关键概念
- 假设检验
- AA 实验
- 显著性
- 辛普森悖论
为什么学习
- 非 ML 基础主考方向,但作为工程落地加分项,理解假设检验与显著性即可
如何检验理解
- 能解释 A/B 实验显著性检验与辛普森悖论的含义
核心技能
CTR 预估模型演进
LR → GBDT+LR → FM/FFM → DNN 系(PNN、DeepFM、DIN/DIEN)的演进脉络串联
建议预留 90 分钟
学习目标
- 串联演进脉络
- 理解各模型动机
- 形成结构化表达
关键概念
- LR→GBDT+LR
- FM/FFM
- PNN/DeepFM
- DIN/DIEN
为什么学习
- 衡量体系化能力的关键,需能串起整个演进逻辑与各模型解决的问题
如何检验理解
- 能按演进顺序讲清每个模型解决的痛点与不足之处
核心技能
手写实现与结构化表达
Python/NumPy 手写 LR、FM、DIN 核心算子与 TopK 检索,配合动机-结构-损失-优缺点的表达模板
建议预留 120 分钟
学习目标
- 手写核心模型算子
- 掌握结构化表达模板
- 应对追问
关键概念
- NumPy 手写
- 训练迭代
- 结构化表达
为什么学习
- 明确要求的综合能力,需能手写核心模型代码并按结构化模板应对追问
如何检验理解
- 能用 NumPy 手写 LR 训练循环、FM 前向与 DIN attention 算子
前置关系与知识联系
- 特征工程 → FM 与特征交叉
- 梯度下降与优化器 → 神经网络与反向传播
- 逻辑回归(LR) → 模型评估与离线指标
- 逻辑回归(LR) → FM 与特征交叉
- 机器学习基本概念与流程 → 决策树与 GBDT
- 模型评估与离线指标 → A/B 实验与分层评测
- 机器学习基本概念与流程 → 特征工程
- 推荐系统链路总览 → 大规模稀疏训练与环境认知
- Embedding 与向量化 → 双塔模型与召回
- 机器学习基本概念与流程 → 偏差-方差权衡与正则化
- 特征工程 → Embedding 与向量化
- 逻辑回归(LR) → CTR 预估模型演进
- 神经网络与反向传播 → 多任务学习与 ESMM/MMoE
- 偏差-方差权衡与正则化 → 决策树与 GBDT
- 机器学习基本概念与流程 → 推荐系统链路总览
- 神经网络与反向传播 → DIN 注意力机制
- 模型评估与离线指标 → AUC 与 GAUC 深入
- 梯度下降与优化器 → 逻辑回归(LR)
- 神经网络与反向传播 → 模型压缩与工程优化
- 机器学习基本概念与流程 → 大规模稀疏训练与环境认知
- 机器学习基本概念与流程 → 协同过滤与矩阵分解
- Embedding 与向量化 → 协同过滤与矩阵分解
- 损失函数与优化目标 → 梯度下降与优化器
- CTR 预估模型演进 → 手写实现与结构化表达
- 双塔模型与召回 → 手写实现与结构化表达
- 在线学习与实时更新 → 概率校准与样本偏差
- 逻辑回归(LR) → 概率校准与样本偏差
- 决策树与 GBDT → XGBoost 与 LightGBM
- DeepFM / Wide & Deep → CTR 预估模型演进
- FM 与特征交叉 → DeepFM / Wide & Deep
- 决策树与 GBDT → CTR 预估模型演进
- 逻辑回归(LR) → 在线学习与实时更新
- 神经网络与反向传播 → DeepFM / Wide & Deep
- 机器学习基本概念与流程 → 模型评估与离线指标
- DeepFM / Wide & Deep → 多任务学习与 ESMM/MMoE
- 损失函数与优化目标 → 逻辑回归(LR)
- 损失函数与优化目标 → 神经网络与反向传播
- 神经网络与反向传播 → 双塔模型与召回
- 机器学习基本概念与流程 → 损失函数与优化目标
- 偏差-方差权衡与正则化 → 逻辑回归(LR)
结合互动地图查看具体关系类型,再选择下一步。