PDF · 3 pages介绍神经元与网络结构、非凸训练、万能逼近、深度网络和反向传播的基本思想。

PDF · 3 pages从非线性学习需求出发，介绍核函数、核回归、正则化以及核对应的高维特征表示。

PDF · 4 pages介绍多元正态分布、边际与条件分布、精度矩阵、条件独立、高斯图模型与图拉索。

PDF · 4 pages通过隐变量模型说明 EM 的 E 步与 M 步，并利用 Jensen 下界和坐标上升推导算法。

PDF · 3 pages从聚类问题和 K-means 算法出发，以坐标下降视角解释优化过程，并过渡到软分配与 EM。

PDF · 4 pages介绍贝叶斯法则、先验与后验、共轭先验、高斯后验以及贝叶斯线性回归。

PDF · 6 pages从抛硬币例子建立最大似然思想，推广到常见分布、回归与分类，并讨论偏差、方差、一致性和 KL 散度。

PDF · 5 pages介绍矩阵秩、奇异值分解、截断 SVD、最佳低秩近似，以及在线性回归、PCA 和压缩中的应用。

PDF · 8 pages介绍 PCA 的几何目标、协方差矩阵、谱定理、主成分求解、降维表示与典型应用。

PDF · 8 pages从分类损失与代理损失出发，推导 sigmoid、逻辑回归、最大似然、梯度优化与多分类扩展。

PDF · 10 pages讲解弱学习器到强学习器的提升过程、AdaBoost 的重新加权机制、训练误差下降与泛化保证。

PDF · 9 pages从一维下山直觉出发，介绍梯度、凸性、线性回归中的优化、随机梯度下降、步长与动量。

PDF · 7 pages从简单线性回归推广到多变量正规方程，并解释平方损失与最大似然之间的联系。

PDF · 8 pages推导感知机算法及其错误上界，并延伸到特征映射、核技巧与核感知机。

PDF · 7 pages介绍留出法、集中不等式、真实误差估计以及 k 折交叉验证在模型选择中的作用。

PDF · 7 pages通过轴平行矩形与半空间，说明如何利用几何结构和线性规划学习无限假设类。

PDF · 10 pages围绕训练误差与真实误差的差异，介绍留出集、模型复杂度、PAC 学习与有限假设类的样本复杂度。

PDF · 8 pages从决策树的表示出发，讲解贪心分裂、势函数、信息增益、停止准则、剪枝与随机森林。

PDF · 7 pages介绍错误有界学习模型，并用单调析取式、消除法与特征扩展说明如何控制在线学习中的错误次数。