---
url: /Metrology/lesson-8/index.md
---
1

一元非线性回归（Simple Nonlinear Regression）是研究**一个自变量 $x$** 与**一个因变量 $y$** 之间非线性关系统计分析方法。

当客观物理规律、化学反应、生长曲线或电路特性呈现出曲线变化（如指数增长、饱和曲线、峰值曲线等）时，直接强行用直线拟合会带来较大的结构性误差。这时就需要采用非线性回归模型来精确描述变量间的函数关系。

## Part 1 基本形式

一般的一元非线性回归模型可以表示为：
$$
y = f(x, \theta) + \varepsilon
$$

> $y$ 为因变量（响应变量）。
>
> $x$ 为自变量（解释变量）。
>
> $\theta = (\theta\_1, \theta\_2, \dots, \theta\_p)$ 是待估计的**模型参数**。
>
> $f$ 是关于参数 $\theta$ 的**非线性函数**。
>
> $\varepsilon$ 为随机误差项，通常假定其服从均值为 0、方差为 $\sigma^2$ 的正态分布 $\varepsilon \sim N(0, \sigma^2)$。

常见的一元非线性模型示例：

> **指数增长/衰减模型**：$y = \theta\_1 e^{\theta\_2 x}$ 或 $y = \theta\_1 + \theta\_2 e^{\theta\_3 x}$
>
> **幂函数模型**：$y = \theta\_1 x^{\theta\_2}$
>
> **Logistic 增长曲线（S型曲线）**：$y = \dfrac{\theta\_1}{1 + \theta\_2 e^{-\theta\_3 x}}$
>
> **米门方程（Michaelis-Menten，酶动力学/饱和曲线）**：$y = \dfrac{\theta\_1 x}{\theta\_2 + x}$

## Part 2 线性化处理

在计算机和数值优化算法普及之前，许多非线性模型通过变量代换（数学变换）转化为线性模型来处理。这种方法称为可线性化非线性回归。

**核心思想**：

> 通过对 $x$ 或 $y$ 取对数、倒数、平方根等数学代换，使其符合多元或一元线性回归的形式，然后利用最小二乘法求解变换后的参数。

**经典案例（幂函数模型化直）**：

> 原模型：$y = \theta\_1 x^{\theta\_2}$ 两边取自然对数：$\ln(y) = \ln(\theta\_1) + \theta\_2 \ln(x)$ 令 $Y = \ln(y)$，$X = \ln(x)$，$b\_0 = \ln(\theta\_1)$，$b\_1 = \theta\_2$，则转化为线性模型：
> $$
> Y = b\_0 + b\_1 X
> $$

**局限性**：

> 并非所有非线性模型都能通过代换“化直”（如 $y = e^{\theta\_1 x} + \theta\_2 x$ 就无法简单化直）。
>
> 如果原误差项是加性的（$y = f(x) + \varepsilon$），取对数后误差项会变成乘性或非线性形式（$\ln(y) = \ln(f(x) + \varepsilon)$），导致变换后的参数估计不再满足最小二乘法的最优统计性质（如无偏性、最小方差）。

## Part 3 直接非线性最小二乘法

对于无法化直的模型，现代统计软件直接对原非线性模型进行参数估计，核心准则依然是**最小二乘法（Least Squares）**，即寻找一组参数 $\theta$，使残差平方和（Residual Sum of Squares, RSS）达到最小：
$$
Q(\theta) = \sum\_{i=1}^{n} \[y\_i - f(x\_i, \theta)]^2 \to \min
$$
由于非线性函数对参数 $\theta$ 的偏导数通常包含参数本身，对 $Q(\theta)$ 求导得到的正规方程组是**非线性方程组**，无法直接得到解析解（闭式解）。因此，必须采用**迭代数值优化算法**：

1. **高斯-牛顿迭代法（Gauss-Newton Algorithm）**： 利用泰勒级数展开将非线性函数局部线性化，通过不断更新参数修正量，逐步逼近极小值点。
2. **列文伯格-马夸特算法（Levenberg-Marquardt, L-M 算法）**： **目前最常用的标准算法**。它巧妙地结合了高斯-牛顿法（局部二次收敛快）和梯度下降法（全局搜索稳健）的优点。通过引入阻尼因子，既能防止算法在远离最优解时发散，又能保证在接近最优解时快速收敛。

## Part 4 检验流程

完成非线性模型参数估计后，不能直接盲目使用，必须通过严格的检验流程：

**拟合优度检验（决定系数 $R^2$ 与调整 $R^2$）**：

> 评估模型对数据的解释能力。需要注意的是，非线性回归中的 $R^2$ 计算方式与线性回归略有不同，有时非线性的 $R^2$ 无法严格保证在 $\[0, 1]$ 区间内，但仍可作为参考。

**残差分析（Residual Analysis）**：

> 绘制残差随自变量 $x$ 或预测值 $\hat{y}$ 的散点图。
>
> **理想状态**：残差随机均匀分布在 0 轴两侧，无明显的系统性趋势（如呈现“U型”或“弓形”说明模型设定有误，漏掉了某些高次项或趋势）。
>
> 检验残差的独立性和正态性。

**参数的显著性检验（$t$ 检验）**：

> 借助渐近方差协方差矩阵，检验每一个参数 $\theta\_j$ 是否显著不为零。如果某个参数不显著，说明模型可能过度参数化（Parameter redundancy），应考虑精简模型。

**重复试验与失拟检验（若有重复观测）**：

> 正如前面讨论的方差分析框架，如果实验中包含重复观测点，可以利用**纯误差平方和 $Q\_E$** 与**失拟平方和 $Q\_L$** 进行双 $F$ 检验。即使是非线性模型，如果失拟检验显著，也说明当前选择的非线性函数形式（如指数、对数）依然未能完全捕捉真实规律，需要调整模型结构。