凸优化 - 简介


本课程对于想要解决各种工程和科学应用中出现的非线性优化问题的学生很有用。本课程从线性规划的基本理论开始,介绍凸集和函数的概念以及相关术语,以解释解决非线性规划问题所需的各种定理。本课程将介绍用于解决此类问题的各种算法。这类问题出现在各种应用中,包括机器学习、电气工程中的优化问题等。它要求学生具备高中数学概念和微积分的先验知识。

在本课程中,学生将学习解决诸如 $min f\left ( x \right )$ 等受某些约束的优化问题。

如果函数 $f\left ( x \right )$ 是线性函数并且约束是线性的,那么这些问题很容易解决。那么它被称为线性规划问题(LPP)。但如果约束是非线性的,那么上述问题就很难解决。除非我们可以在图表中绘制函数,否则尝试分析优化可以是一种方法,但如果函数超出三个维度,我们就无法绘制函数。因此出现了非线性规划或凸规划技术来解决此类问题。在这些教程中,我们将重点学习此类技术,最后介绍一些解决此类问题的算法。首先,我们将引入凸集的概念,它是凸规划问题的基础。然后随着凸函数的介绍,我们将介绍解决这些问题的一些重要定理以及基于这些定理的一些算法。

术语

  • 空间 $\mathbb{R}^n$ − 是一个实数的 n 维向量,定义如下 − $\mathbb{R}^n=\left \{ \left ( x_1,x_2,... ,x_n \right )^{\tau }:x_1,x_2,....,x_n \in \mathbb{R} \right \}$

  • 空间 $\mathbb{R}^{mXn}$ - 它是阶数为 $mXn$ 的所有实值矩阵的集合。