凸优化 - 维尔斯特拉斯定理


设 S 为 $\mathbb{R}^n$ 中的非空闭有界集(也称为紧集),并设 $f:S\rightarrow \mathbb{R} $ 为 S 上的连续函数,则问题 min $\left \{ f\left ( x \right ):x \in S \right \}$ 达到最小值。

证明

由于 S 是非空且有界的,因此存在下界。

$\alpha =Inf\left \{ f\left ( x \right ):x \in S \right \}$

现在令 $S_j=\left \{ x \in S:\alpha \leq f\left ( x \right ) \leq \alpha +\delta ^j\right \} \forall j=1,2,... $ 和 $\delta \in \left ( 0,1 \right )$

根据 infimium 的定义,对于每个 $j$,$S_j$ 都是非空的。

选择一些$x_j \in S_j$ 得到序列$\left \{ x_j \right \}$ for $j=1,2,...$

由于S是有界的,所以序列也是有界的,并且存在一个收敛子序列$\left \{ y_j \right \}$,它收敛到$\hat{x}$。因此 $\hat{x}$ 是一个极限点,并且 S 是闭合的,因此,$\hat{x} \in S$。由于 f 是连续的,$f\left ( y_i \right )\rightarrow f\left ( \hat{x} \right )$。

由于 $\alpha \leq f\left ( y_i \right )\leq \alpha+\delta^k, \alpha=\displaystyle\lim_{k\rightarrow \infty}f\left ( y_i \right )=f\left ( \帽子{x} \右)$

因此,$\hat{x}$ 是最小化解。

评论

维尔斯特拉斯定理成立有两个重要的必要条件。这些如下 -

  • 步骤 1 - 集合 S 应该是有界集合。

    考虑函数 f\left ( x \right )=x$。

    它是一个无界集合,并且在其域中的任何点都有最小值。

    因此,为了获得最小值,S 应该有界。

  • 步骤 2 - 集合 S 应该是闭合的。

    考虑域 \left ( 0,1 \right ) 中的函数 $f\left ( x \right )=\frac{1}{x}$ 。

    该函数在给定域中不是封闭的,并且其最小值也不存在。

    因此,为了获得最小值,S 应该关闭。