R - 非线性最小二乘法


在对现实世界数据进行回归分析建模时,我们观察到模型方程很少是给出线性图的线性方程。大多数时候,现实世界数据模型的方程涉及更高阶的数学函数,例如 3 的指数或 sin 函数。在这种情况下,模型图给出的是曲线而不是直线。线性和非线性回归的目标都是调整模型参数的值以找到最接近数据的直线或曲线。找到这些值后,我们将能够高精度地估计响应变量。

在最小二乘回归中,我们建立了一个回归模型,其中不同点距回归曲线的垂直距离的平方和最小。我们通常从定义的模型开始,并假设一些系数值。然后,我们应用R 的nls()函数来获取更准确的值以及置信区间。

句法

在 R 中创建非线性最小二乘检验的基本语法是 -

nls(formula, data, start)

以下是所使用参数的描述 -

  • 公式是包含变量和参数的非线性模型公式。

  • data是用于评估公式中变量的数据框。

  • start是起始估计的命名列表或命名数值向量。

例子

我们将考虑一个假设其系数初始值的非线性模型。接下来我们将了解这些假设值的置信区间是多少,以便我们可以判断这些值与模型的拟合程度。

因此,让我们为此目的考虑以下等式 -

a = b1*x^2+b2

我们假设初始系数为 1 和 3,并将这些值拟合到 nls() 函数中。

xvalues <- c(1.6,2.1,2,2.23,3.71,3.25,3.4,3.86,1.19,2.21)
yvalues <- c(5.19,7.43,6.94,8.11,18.75,14.88,16.06,19.12,3.21,7.58)

# Give the chart file a name.
png(file = "nls.png")


# Plot these values.
plot(xvalues,yvalues)


# Take the assumed values and fit into the model.
model <- nls(yvalues ~ b1*xvalues^2+b2,start = list(b1 = 1,b2 = 3))

# Plot the chart with new data by fitting it to a prediction from 100 data points.
new.data <- data.frame(xvalues = seq(min(xvalues),max(xvalues),len = 100))
lines(new.data$xvalues,predict(model,newdata = new.data))

# Save the file.
dev.off()

# Get the sum of the squared residuals.
print(sum(resid(model)^2))

# Get the confidence intervals on the chosen values of the coefficients.
print(confint(model))

当我们执行上面的代码时,它会产生以下结果 -

[1] 1.081935
Waiting for profiling to be done...
       2.5%    97.5%
b1 1.137708 1.253135
b2 1.497364 2.496484
非线性最小二乘 R

我们可以得出结论,b1 的值更接近 1,而 b2 的值更接近 2 而不是 3。