《机器学习之决策树.ppt》由会员分享，可在线阅读，更多相关《机器学习之决策树.ppt（28页珍藏版）》请在三一办公上搜索。
1、决策树的原理及适用情景,内容,一个决策树的例子,运用决策树分类预测,运用决策树分类预测,运用决策树分类预测,运用决策树分类预测,运用决策树分类预测,运用决策树分类预测,同一个训练数据生成另一棵决策树,问题来了？,什么是决策树？,决策树概念,根节点,叶子节点,决策树概念,决策树是一种树形结构，通过做出一系列决策（选择）来对数据进行划分，这类似于针对一系列问题进行选择。决策树的决策过程就是从根节点开始，测试待分类项中对应的特征属性，并按照其值选择输出分支，直到叶子节点，将叶子节点的存放的类别作为决策结果。一句话概括：从训练数据中学习得出一个类似于流程图的树型结构。,决策树算法,信息增益ID3增益比
2、率C4.5基尼指数CART,信息熵,一条信息的信息量和它的不确定性有着直接的关系,公式定义：,变量的不确定性越大，熵也就越大，需要的信息量也越大，纯度就越小。,条件熵,信息增益,举例说明,按年龄划分,按收入划分,按学生划分,按信用划分,确定第一次分裂的属性,确定第二次分裂的属性,决策树划分,决策树优缺点,优点：推理过程容易理解，计算简单，可解释性强。比较适合处理有缺失属性的样本。可自动忽略目标变量没有贡献的属性变量，也为判断属性变量的重要性，减少变量的数目提供参考。缺点：容易造成过拟合，需要采用剪枝操作。忽略了数据之间的相关性。对于各类别样本数量不一致的数据，信息增益偏向于那些更多数值的特征。,决策树适用情景,1、决策树能够生成清晰的基于特征选择不同预测结果的树状结构，数据分析师希望更好的理解手上的数据的时候可以使用。2、决策树更大的作用是作为一些更有用的算法的基石。例如：随机森林、AdaBoost、GBDT,THANKYOU!,
