R - 协方差分析
我们使用回归分析创建模型来描述预测变量的变化对响应变量的影响。有时，如果我们有一个分类变量，其值为“是/否”或“男性/女性”等。简单的回归分析会为分类变量的每个值提供多个结果。在这种情况下，我们可以通过将分类变量与预测变量一起使用并比较分类变量每个级别的回归线来研究分类变量的影响。这种分析称为协方差分析，也称为ANCOVA。
例子
考虑 R 内置的数据集 mtcars。在其中我们观察到字段“am”代表传输类型（自动或手动）。它是一个值为 0 和 1 的分类变量。除了马力（“hp”）值之外，汽车的每加仑英里数（mpg）也可能取决于它。
我们研究“am”值对“mpg”和“hp”回归的影响。它是通过使用aov()函数和anova()函数来比较多重回归来完成的。
输入数据
从数据集 mtcars 创建一个包含字段“mpg”、“hp”和“am”的数据框。这里我们将“mpg”作为响应变量，“hp”作为预测变量，“am”作为分类变量。
input <- mtcars[,c("am","mpg","hp")]
print(head(input))
当我们执行上面的代码时，它会产生以下结果 -
am mpg hp Mazda RX4 1 21.0 110 Mazda RX4 Wag 1 21.0 110 Datsun 710 1 22.8 93 Hornet 4 Drive 0 21.4 110 Hornet Sportabout 0 18.7 175 Valiant 0 18.1 105
协方差分析
我们创建一个回归模型，将“hp”作为预测变量，将“mpg”作为响应变量，同时考虑“am”和“hp”之间的相互作用。
分类变量和预测变量之间相互作用的模型
# Get the dataset. input <- mtcars # Create the regression model. result <- aov(mpg~hp*am,data = input) print(summary(result))
当我们执行上面的代码时，它会产生以下结果 -
Df Sum Sq Mean Sq F value Pr(>F) hp 1 678.4 678.4 77.391 1.50e-09 *** am 1 202.2 202.2 23.072 4.75e-05 *** hp:am 1 0.0 0.0 0.001 0.981 Residuals 28 245.4 8.8 --- Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
该结果表明马力和传动类型对每加仑英里数有显着影响，因为两种情况下的 p 值均小于 0.05。但由于 p 值大于 0.05，这两个变量之间的交互作用并不显着。
分类变量和预测变量之间没有交互作用的模型
# Get the dataset. input <- mtcars # Create the regression model. result <- aov(mpg~hp+am,data = input) print(summary(result))
当我们执行上面的代码时，它会产生以下结果 -
Df Sum Sq Mean Sq F value Pr(>F) hp 1 678.4 678.4 80.15 7.63e-10 *** am 1 202.2 202.2 23.89 3.46e-05 *** Residuals 29 245.4 8.5 --- Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1
该结果表明马力和传动类型对每加仑英里数有显着影响，因为两种情况下的 p 值均小于 0.05。
比较两个模型
现在我们可以比较这两个模型来得出变量的相互作用是否确实不显着的结论。为此，我们使用anova()函数。
# Get the dataset. input <- mtcars # Create the regression models. result1 <- aov(mpg~hp*am,data = input) result2 <- aov(mpg~hp+am,data = input) # Compare the two models. print(anova(result1,result2))
当我们执行上面的代码时，它会产生以下结果 -
Model 1: mpg ~ hp * am Model 2: mpg ~ hp + am Res.Df RSS Df Sum of Sq F Pr(>F) 1 28 245.43 2 29 245.44 -1 -0.0052515 6e-04 0.9806
由于 p 值大于 0.05，我们得出结论，马力和传动类型之间的相互作用并不显着。因此，每加仑行驶的里程将以类似的方式取决于汽车在自动和手动变速箱模式下的马力。