R 简明教程
R - Random Forest
在随机森林方法中,会创建大量决策树。每个观察都会传入到每个决策树。每个观察的最常见结果将用作最终输出。将新观察传入到所有树,并针对每个分类模型进行多数表决。
对在创建树时未使用的案例进行误差估计。这称为 OOB (Out-of-bag) 误差估计,以百分比表示。
R 包 "randomForest" 用于创建随机森林。
Install R Package
在 R 控制台中使用以下命令安装包。还需要安装相关包(如果存在)。
install.packages("randomForest)
“randomForest”包具有 randomForest() 函数,该函数用于创建和分析随机森林。
Syntax
在 R 中创建随机森林的基本语法为 −
randomForest(formula, data)
以下是所用参数的描述 -
-
formula 是描述预测变量和响应变量的公式。
-
data 是所用数据集的名称。
Input Data
我们将使用 R 中名为 readingSkills 的内置数据集来创建决策树。它描述了如果我们知道变量“年龄”、“鞋码”、“分数”以及该人是否是母语人士,则某个人的阅读技能得分。
以下是示例数据。
# Load the party package. It will automatically load other
# required packages.
library(party)
# Print some records from data set readingSkills.
print(head(readingSkills))
当我们执行上述代码时,它会产生以下结果和图表:
nativeSpeaker age shoeSize score
1 yes 5 24.83189 32.29385
2 yes 6 25.95238 36.63105
3 no 11 30.42170 49.60593
4 yes 7 28.66450 40.28456
5 yes 11 31.88207 55.46085
6 yes 10 30.07843 52.83124
Loading required package: methods
Loading required package: grid
...............................
...............................
Example
我们将使用 randomForest() 函数来创建决策树并查看其图表。
# Load the party package. It will automatically load other
# required packages.
library(party)
library(randomForest)
# Create the forest.
output.forest <- randomForest(nativeSpeaker ~ age + shoeSize + score,
data = readingSkills)
# View the forest results.
print(output.forest)
# Importance of each predictor.
print(importance(fit,type = 2))
当我们执行上述代码时,会产生以下结果 -
Call:
randomForest(formula = nativeSpeaker ~ age + shoeSize + score,
data = readingSkills)
Type of random forest: classification
Number of trees: 500
No. of variables tried at each split: 1
OOB estimate of error rate: 1%
Confusion matrix:
no yes class.error
no 99 1 0.01
yes 1 99 0.01
MeanDecreaseGini
age 13.95406
shoeSize 18.91006
score 56.73051