R 简明教程
R - Analysis of Covariance
我们使用回归分析来创建模型,描述预测变量的变化对响应变量造成的影响。有时,如果我们有一个具有类似于 Yes/No 或 Male/Female 等值类型的分类变量。则简单的回归分析给出分类变量的每个值的多个结果。在这样的情况下,我们能通过将其与预测变量一起使用,并比较分类变量每个级别的回归线,研究分类变量的影响。这样的分析被称为 Analysis of Covariance ,也称为 ANCOVA 。
Example
考虑 R 中内置的数据集 mtcars。其中我们观察到字段“am”表示传输类型(自动或手动)。它是一个具有值 0 和 1 的分类变量。除了马力(“hp”)值外,汽车每加仑英里数(mpg)值也可能依赖于此。
我们通过使用 aov() 函数研究了“am”值对“mpg”和“hp”之间回归的影响,然后使用 anova() 函数比较多个回归。
Input Data
从 mtcars 数据集中创建一个包含字段“mpg”、“hp”和“am”的数据框。在这里,我们取“mpg”为响应变量,“hp”为预测变量,“am”为分类变量。
input <- mtcars[,c("am","mpg","hp")]
print(head(input))
当我们执行上述代码时,会产生以下结果 -
am mpg hp
Mazda RX4 1 21.0 110
Mazda RX4 Wag 1 21.0 110
Datsun 710 1 22.8 93
Hornet 4 Drive 0 21.4 110
Hornet Sportabout 0 18.7 175
Valiant 0 18.1 105
ANCOVA Analysis
我们创建了一个回归模型,将“hp”作为预测变量,“mpg”作为响应变量,同时考虑“am”和“hp”之间的交互作用。
Model with interaction between categorical variable and predictor variable
# Get the dataset.
input <- mtcars
# Create the regression model.
result <- aov(mpg~hp*am,data = input)
print(summary(result))
当我们执行上述代码时,会产生以下结果 -
Df Sum Sq Mean Sq F value Pr(>F)
hp 1 678.4 678.4 77.391 1.50e-09 ***
am 1 202.2 202.2 23.072 4.75e-05 ***
hp:am 1 0.0 0.0 0.001 0.981
Residuals 28 245.4 8.8
---
Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
此结果表明马力和传动类型对每加仑英里数都有显著影响,因为这两种情况下的 p 值都小于 0.05。但是,这两个变量之间的交互作用并不显着,因为 p 值大于 0.05。
Model without interaction between categorical variable and predictor variable
# Get the dataset.
input <- mtcars
# Create the regression model.
result <- aov(mpg~hp+am,data = input)
print(summary(result))
当我们执行上述代码时,会产生以下结果 -
Df Sum Sq Mean Sq F value Pr(>F)
hp 1 678.4 678.4 80.15 7.63e-10 ***
am 1 202.2 202.2 23.89 3.46e-05 ***
Residuals 29 245.4 8.5
---
Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
此结果表明马力和传动类型对每加仑英里数都有显著影响,因为这两种情况下的 p 值都小于 0.05。
Comparing Two Models
现在我们可以比较这两个模型,得出变量之间的交互作用是否真的无关紧要的结论。为此,我们使用 anova() 函数。
# Get the dataset.
input <- mtcars
# Create the regression models.
result1 <- aov(mpg~hp*am,data = input)
result2 <- aov(mpg~hp+am,data = input)
# Compare the two models.
print(anova(result1,result2))
当我们执行上述代码时,会产生以下结果 -
Model 1: mpg ~ hp * am
Model 2: mpg ~ hp + am
Res.Df RSS Df Sum of Sq F Pr(>F)
1 28 245.43
2 29 245.44 -1 -0.0052515 6e-04 0.9806
由于 p 值大于 0.05,我们得出结论,马力和变速箱类型之间的交互并不显着。因此,每加仑英里数在自动和手动变速模式下将以类似的方式取决于汽车的马力。