R语言随机森林|极客教程

R语言随机森林

在随机森林方法中，创建了大量的决策树。每个观测值都会进入每个决策树中。每个观测值的最常见结果被用作最终输出。一个新的观测值会被输入到所有的树中，并对每个分类模型进行多数表决。

对于未使用来构建树的案例进行错误估计。这被称为 OOB（袋外） 的错误估计，表示为百分比。

使用R包 “randomForest” 来创建随机森林。

安装R包

在R控制台中使用以下命令安装该包。如果有依赖包，您还需要安装它们。

install.packages("randomForest)

软件包”randomForest”有一个函数

randomForest()

用于创建和分析随机森林。

语法

在R中创建随机森林的基本语法为：

randomForest(formula, data)

下面是使用的参数的描述 –

formula 是描述预测变量和响应变量的公式。
data 是使用的数据集的名称。

输入数据

我们将使用R内置的名为readingSkills的数据集来创建决策树。它描述了如果我们知道变量”age”，”shoesize”，”score”以及一个人是否是母语者，那么某人的阅读技能得分。

以下是样本数据。

# Load the party package. It will automatically load other
# required packages.
library(party)

# Print some records from data set readingSkills.
print(head(readingSkills))

当我们执行上面的代码时，它会产生以下的结果和图表−

nativeSpeaker   age   shoeSize      score
1           yes     5   24.83189   32.29385
2           yes     6   25.95238   36.63105
3            no    11   30.42170   49.60593
4           yes     7   28.66450   40.28456
5           yes    11   31.88207   55.46085
6           yes    10   30.07843   52.83124
Loading required package: methods
Loading required package: grid
...............................
...............................

示例

我们将使用 randomForest() 函数创建决策树并查看其图形。

# Load the party package. It will automatically load other
# required packages.
library(party)
library(randomForest)

# Create the forest.
output.forest <- randomForest(nativeSpeaker ~ age + shoeSize + score, 
           data = readingSkills)

# View the forest results.
print(output.forest) 

# Importance of each predictor.
print(importance(fit,type = 2))

当我们执行上面的代码时，会产生以下结果 –

Call:
 randomForest(formula = nativeSpeaker ~ age + shoeSize + score,     
                 data = readingSkills)
               Type of random forest: classification
                     Number of trees: 500
No. of variables tried at each split: 1

        OOB estimate of  error rate: 1%
Confusion matrix:
    no yes class.error
no  99   1        0.01
yes  1  99        0.01
         MeanDecreaseGini
age              13.95406
shoeSize         18.91006
score            56.73051