R语言 决策树
决策树是一种表示选择及其结果的图形形式。图中的节点表示事件或选择,图的边表示决策规则或条件。它主要用于使用R进行机器学习和数据挖掘应用。
决策树的使用示例包括:预测电子邮件是否为垃圾邮件,预测肿瘤是否为恶性肿瘤,根据各种因素预测贷款是否为良好或不良信用风险。通常,使用观察数据(也称为训练数据)创建模型。然后使用一组验证数据来验证和改进模型。R有用于创建和可视化决策树的软件包。对于新的预测变量集,我们使用该模型来决定数据的类别(是/否、垃圾邮件/非垃圾邮件)。
使用 “party” R软件包来创建决策树。
安装R软件包
在R控制台中使用以下命令来安装软件包。如果有依赖包,您还需要安装这些依赖包。
install.packages("party")
包”party”有以下函数 ctree() ,用于创建和分析决策树。
语法
R中创建决策树的基本语法为:
ctree(formula, data)
下面是使用的参数的描述
- formula 是描述预测变量和响应变量的公式。
-
data 是所使用的数据集的名称。
输入数据
我们将使用R内置的数据集readingSkills来创建决策树。它描述了如果我们了解变量”age”,”shoesize”,”score”以及该人是否为母语人士,某人的阅读技能得分。
这是样本数据:
# Load the party package. It will automatically load other
# dependent packages.
library(party)
# Print some records from data set readingSkills.
print(head(readingSkills))
当我们执行上面的代码时,它会产生如下结果和图表-
nativeSpeaker age shoeSize score
1 yes 5 24.83189 32.29385
2 yes 6 25.95238 36.63105
3 no 11 30.42170 49.60593
4 yes 7 28.66450 40.28456
5 yes 11 31.88207 55.46085
6 yes 10 30.07843 52.83124
Loading required package: methods
Loading required package: grid
...............................
...............................
示例
我们将使用 ctree() 函数创建决策树并查看其图形。
# Load the party package. It will automatically load other
# dependent packages.
library(party)
# Create the input data frame.
input.dat <- readingSkills[c(1:105),]
# Give the chart file a name.
png(file = "decision_tree.png")
# Create the tree.
output.tree <- ctree(
nativeSpeaker ~ age + shoeSize + score,
data = input.dat)
# Plot the tree.
plot(output.tree)
# Save the file.
dev.off()
当我们执行上面的代码时,会产生以下结果 –
null device
1
Loading required package: methods
Loading required package: grid
Loading required package: mvtnorm
Loading required package: modeltools
Loading required package: stats4
Loading required package: strucchange
Loading required package: zoo
Attaching package: ‘zoo’
The following objects are masked from ‘package:base’:
as.Date, as.Date.numeric
Loading required package: sandwich
结论
从上述决策树可以得出结论,任何阅读技能分数低于38.3且年龄大于6岁的人都不是母语讲者。