呆板学习——什么时候使用决议树

无论是决议树，包括集成树还是神经网络都是非常强大、有效的学习方法。
下面是各自的优缺点：
决议树和集成树通常在表格数据上表现精良，也称为布局化数据，这意味着如果你的数据集看起来像一个巨大的电子表格，那么决议树是值得思量的。例如，在房价预测应用中，我们有一个数据集，其包罗于房屋大小、卧室数量、楼层数量和房龄相干特征，这种类型的数据存储在电子表格中，带有分类或一连值特征，无论是用于分类任务还是回归任务，当你试图预测一个离散种别或预测一个数值时，所有这些问题都是决议树可以做得很好的。相比之下，不保举在非布局化数据上使用决议树和集成树，例如：图像、视频、音频和文本，这些数据不太大概以电子表格格式存储。
决议树和集成树的一个巨大优势是它们练习速率非常快，小型决议树大概更容易被人类明白，如果你只练习一个决议树，而且这个决议树只有几十个节点，那么可以打印出决议树，以确切相识它是如何做出决议的。当你构建包罗100棵树的集成模型，而每棵树都有数百个节点时，要弄清楚集成模型在做什么变得困难，大概需要某些单独的可视化技能。但如果你有一个小型决议树，现实上可以查看它并通过观察某些特征，以某种方式来分类某物是不是一只猫。如果你决定使用决议树或集成树，在大多数情况下会使用XGBoost。集成树的一个小缺点是：它比单个决议树轻微昂贵一些，所以如果你的预算非常有限，你大概会使用单个决议树，但除此之外，几乎总是使用集成树，特别是使用XGBoost.
神经网络更恰当处理非布局化数据任务。与决议树和集成树不同，神经网络在所有类型的数据上都表现精良，包括表格或布局化数据，也包括非布局化数据，以及包罗布局化和非布局化组建的混淆数据。在表格布局化数据上，神经网络和决议树都具有竞争力，而在非布局化数据上，神经网络是首选，而不是决议树或集成树，神经网络的一个缺点是：神经网络大概比决议树更慢，一个大型的神经网络大概需要很长时间来练习，神经网络的其他优势包括：它可以与迁移学习联合，因为在许多应用中，如果你的数据集很小，可以或许适应迁移学习并在一个更大的数据集上进行预练习，这是获得竞争性表现的关键。
最后，有一些技能上的原因，大概更容易使得将多个神经网络串联使用，构建一个更大的呆板学习体系，根本原因是：神经网络将输出y盘算为输入x的平滑或一连函数，因此即使串联了很多不同的模型，这些不同模型的输出本身也是微小的，所以可以同时使用梯度下降法练习它们。而对于决议树，只能一次练习一棵树。如果要构建一个由多个呆板学习模型协同工作的体系，串联和练习多个神经网络大概比多个决议树更容易。