《机器学习》PPT课件 李侃 北京理工大学

 
课件内容： 
绪论 
介绍机器学习的基本概念，讲解机器学习的发展历程、机器学习分类，以及机器学习方法中用到的性能度量指标。 
1.1 机器学习简介 
1.2 机器学习发展历程 
1.3 机器学习分类与性能度量 
期望最大化算法 
阐述期望最大化（EM）算法的基本概念、相关的理论，推导EM算法，并对EM算法的收敛性进行分析，给出EM算法实例以加深对EM算法的理解。 
2.1 期望最大化算法背景 
2.2 相关理论 
2.3 期望最大化算法推导 
2.4 期望最大化算法的收敛性 
主题建模 
介绍主题建模的思想，推导隐狄利克雷分布模型，并讲解隐狄利克雷分布模型的参数学习方法。 
3.1 主题建模的背景 
3.2 隐狄利克雷分配模型（LDA）的基本结构 
3.3 吉布斯采样方法 
支持向量机 
介绍支持向量机的基本原理、线性超平面和非线性超平面，讲解线性支持向量机、核函数、非线性支持向量机、一分类支持向量机、以及多分类支持向量机。 
4.1 线性支持向量机原理 
4.2 线性支持向量机（数据线性可分） 
4.3 线性支持向量机（数据线性不可分） 
4.4 非线性支持向量机思想 
4.5 核函数 
4.6 非线性支持向量机原理 
4.7 一分类-多分类支持向量机 
聚类分析 
介绍不同的相似性度量方法、经典的聚类算法，以及K-means等硬分聚类算法和软件聚类算法，讲解非归一化谱聚类算法和归一化谱聚类算法，以及基于约束的聚类和在线聚类算法。 
5.1 相似性度量方法和经典聚类算法 
5.2 K-means、K中心点方法及其改进方法 
5.3 谱聚类 
5.4 基于约束的聚类和在线聚类 
概率无向图模型 
讲解概率无向图的基础知识和相关性质；逻辑斯蒂回归模型，以及使用极大似然估计模型参数；最大熵原理和最大熵模型；条件随机场，以及特征函数选择、参数估计和模型推断三个关键问题求解方法。 
6.1 概率无向图 
6.2 逻辑斯蒂回归模型 
6.3 最大熵模型 
6.4 条件随机场 
概率有向图模型 
概述概率有向图的基础知识，介绍贝叶斯网络的基础理论、贝叶斯网络结构学习和参数学习的各种算法，讲解隐马尔可夫模型的估值、寻找状态序列、模型参数学习三个基本问题及其具体算法。 
7.1 概率有向图及贝叶斯网络基础知识 
7.2 贝叶斯网络结构学习 
7.3 贝叶斯网络参数学习 
7.4 隐马尔可夫模型 
神经网络 
介绍人工神经网络的基础知识；从感知机切入，介绍几种激活函数和优化算法，以及多层感知机；讲解深度神经网络中常用的卷积神经网络和循环神经网络。 
8.1 人工神经网络基础知识 
8.2 多层感知机 
8.3 优化算法 
8.4 卷积神经网络 
8.5 循环神经网络 
强化学习 
介绍强化学习的基础知识、强化学习算法的分类及发展趋势、马尔可夫决策过程，重点讲解几种免模型（Model-free）的强化学习算法：蒙特卡洛方法、TD算法、Q-learning和Sarsa等，以及深度强化学习方法。 
9.1 强化学习基本概念 
9.2 马尔可夫决策过程 
9.3 免模型的强化学习之蒙特卡洛学习和TD学习 
9.4 免模型的强化学习之 Q-Learning 和Sarsa 
9.5 深度强化学习 
梯度下降法实验 
讲解梯度下降法的思想，以及实现过程。 
10.1 梯度下降法实验1 
10.2 梯度下降法实验2 
回归实验 
讲解回归的思想，以及波士顿房价预测和麻疹疫苗接种率预测实验的实现过程。 
11.1 波士顿房价预测实验 
11.2 麻疹疫苗接种率预测实验 
分类实验 
讲解决策树分类、K近邻分类和SVM分类的思想和具体实现过程。 
12.1 决策树分类实验 
12.2 K近邻分类实验 
12.3 SVM分类实验 
聚类实验 
讲解K-means、DBSCAN的思想和实现过程，以及汽车产品聚类案例的实现思想和具体过程。 
13.1 K-means聚类实验 
13.2 DBSCAN聚类实验 
13.3 汽车产品聚类实验 
天文数据挖掘实验 
分析天文数据挖掘项目，讲解其特征优化思想和项目具体实现过程。 
14.1 项目描述 
14.2 特征优化及代码 
复习课 
针对课程的主要内容和难以理解的内容，复习主题模型、支持向量机、聚类、概率有向图和概率无向图的知识点和习题讲解。 
15.1 主题模型 
15.2 支持向量机 
15.3 聚类分析 
15.4 概率有向图模型 
15.5 概率无向图模型