R - 随机森林
在随机森林方法中,创建了大量决策树。每个观察结果都会被输入到每个决策树中。每个观察结果最常见的结果将用作最终输出。新的观察结果被输入到所有树中,并对每个分类模型进行多数投票。
对构建树时未使用的情况进行误差估计。这称为OOB(袋外)误差估计,以百分比形式表示。
R 包“randomForest”用于创建随机森林。
安装 R 包
在 R 控制台中使用以下命令来安装软件包。您还必须安装依赖包(如果有)。
install.packages("randomForest)
“randomForest”包具有randomForest()函数,用于创建和分析随机森林。
句法
在 R 中创建随机森林的基本语法是 -
randomForest(formula, data)
以下是所使用参数的描述 -
公式是描述预测变量和响应变量的公式。
data是所使用的数据集的名称。
输入数据
我们将使用名为 ReadingSkills 的 R 内置数据集来创建决策树。如果我们知道变量“年龄”、“鞋码”、“分数”以及这个人是否是母语人士,它描述了某人的阅读技能得分。
这是示例数据。
# Load the party package. It will automatically load other # required packages. library(party) # Print some records from data set readingSkills. print(head(readingSkills))
当我们执行上面的代码时,它会产生以下结果和图表 -
nativeSpeaker age shoeSize score 1 yes 5 24.83189 32.29385 2 yes 6 25.95238 36.63105 3 no 11 30.42170 49.60593 4 yes 7 28.66450 40.28456 5 yes 11 31.88207 55.46085 6 yes 10 30.07843 52.83124 Loading required package: methods Loading required package: grid ............................... ...............................
例子
我们将使用randomForest()函数创建决策树并查看它的图。
# Load the party package. It will automatically load other
# required packages.
library(party)
library(randomForest)
# Create the forest.
output.forest <- randomForest(nativeSpeaker ~ age + shoeSize + score,
data = readingSkills)
# View the forest results.
print(output.forest)
# Importance of each predictor.
print(importance(fit,type = 2))
当我们执行上面的代码时,它会产生以下结果 -
Call:
randomForest(formula = nativeSpeaker ~ age + shoeSize + score,
data = readingSkills)
Type of random forest: classification
Number of trees: 500
No. of variables tried at each split: 1
OOB estimate of error rate: 1%
Confusion matrix:
no yes class.error
no 99 1 0.01
yes 1 99 0.01
MeanDecreaseGini
age 13.95406
shoeSize 18.91006
score 56.73051
结论
从上面显示的随机森林中,我们可以得出结论,鞋号和分数是决定某人是否为母语的重要因素。此外,该模型的误差只有 1%,这意味着我们可以以 99% 的准确率进行预测。