线性规划基础
引入
线性规划(linear programming, LP)是研究线性约束条件下线性目标函数最值问题的方法总称,是运筹学的一个分支,在多方面均有应用。线性规划的某些特殊情况,如网络流、多商品流量等问题都有可能在算法竞赛题目中出现。算法竞赛很少会出现只能用线性规划算法解决的问题,绝大多数这类问题可以通过网络流建模等方法更高效地解决。
一个简单的例子
一个问题能够写成线性规划的形式,既要有若干个线性约束条件,又要有线性的目标函数。
考虑下面的例子:
例子
早点师傅每天可以制作一定数量的包子和油条,这两种早餐深受顾客喜爱。为了最大化利润,师傅希望尽可能多地制作早点,但在实际操作中受到食材、时间等多种资源的限制。为此,师傅统计了制作每份早点所需的食材用量、制作时间及其对应的利润,具体如下表所示:
早点 | 植物油 | 面粉 | 时间 | 利润 |
---|---|---|---|---|
包子 | ||||
油条 |
假设师傅每天最多可以购入
用数学语言描述,可以设
类似地,「总共需要的面粉不超过
另外,师傅不可能生产出负数单位的早点,所以,还有条件
师傅就是要在这些限制下,最大化利润:
这就是一个典型的线性规划问题。它的目标函数是关于决策变量的线性函数,约束条件则由决策变量构成的线性等式或不等式组成。
图解法
对于只有两个决策变量的线性规划问题,可以通过图解法直观地解决问题。
考虑本节的问题
对应的几何图像。最后一行约束表示可选的点
接下来要最大化
如图所示,这样的情形发生在红点所示位置。它是直线
当问题涉及多于两个决策变量时,图解法不再适用。但是,本节的例子中的一些观察仍然有效。线性规划问题中的每个不等式约束都描述了一个「半平面」,所有可行的解的集合就是这些「半平面」的交集,因此,总是一个「凸多边形」。规划问题的最优解总是可以在该「凸多边形」的某个「顶点」处取得。这些「顶点」的左边可以通过联立这些「半平面」的「边界」的方程求得。将这些观察拓展到高维空间,就发展出了一个高效的求解线性规划问题的方法——单纯形法。这也是算法竞赛中最常应用的方法。
另外一个值得注意的问题是,原则上,早点师傅制作的包子和油条都不是无限可分的,应当是某个整数。虽然本题求解过程中没有明确地限制这一点,但是由于最终的最优解的确是整数,所以,即使加上整数限制,本题的答案仍然是可行的。但是对于很多规划问题,最优解可能无法取得在整点处,这些问题实际上是一类整数规划问题,而非简单的线性规划问题。本文的结尾简单地讨论了这一类问题。
基本概念
本节介绍线性规划问题的基本概念。
线性规划问题
一个线性规划问题
线性目标函数,即形如
的函数,其中,
是常数;线性约束,即形如
的不等式或等式约束,其中,
都是常数。
线性规划问题,就是要在满足所给约束的前提下,最大化或者最小化目标函数。满足所给约束的解
标准形式
为了方便描述和进一步处理,通常需要指定一个线性规划问题的标准形式。不同文献可能有不同的规定方式,本文规定线性规划的标准形式如下:
也就是说,线性规划问题是最小化问题,所有决策变量都有非负约束,且除此之外只包含若干右侧常量非负的等式约束。利用 矩阵 可以更为简洁地表达这一问题:
其中,
向量不等式
本文中会多次出现像
标准形式的选取只是为了行文方便,而并没有任何特别之处,因为任何线性规划问题都可以等价地写成下面的六种形式:
下列操作可以将所有线性规划问题都等价地转化为这六种形式之一:
- 通过添加负号,即将
变为 ,就可以完成最大化问题和最小化问题的相互转化。 - 通过添加负号,即将
替换成 ,就可以完成不等式约束的两种方向的相互转化,或将等式约束的右侧常量变为非负数。 - 所有的等式约束
都可以替换成两个相反方向的不等式约束 和 。 - 所有的不等式约束
都可以通过添加非负松弛变量 的方式,转化为等式约束 以及相应的非负约束 。 - 如果某个决策变量
没有非负约束,那么,可以将它替换成两个非负变量的差值,即 且 。
通过这些操作转化得到的线性规划问题的规模不超过原问题的规模的二倍,而且这些问题的可行解和最优解都很容易相互转化。因此,对于一般形式的线性规划问题,总是可以首先将它转化为标准形式(或上述六种形式之一)再进行求解。
例子
考虑线性规划问题
通过操作 1、2 和 3 可以将它转化为形式
通过操作 4 和 5 可以将它转化为形式
可行域与问题的解
所有可行解的集合
多面体的例子
此处列举了一些常见的多面体:
- 空集
,又称为 零胞形(nullitope),维度规定为 。 - 仿射子空间(affine subspace),即若干超平面的交集
。它相当于线性方程组 的解集:当方程组无解时,它就是空集;否则,它总是可以写成 的形式,其中, 且 是 维线性子空间。特别地,超平面也是仿射子空间。 - 多面体锥(polyhedral cone),即空间中有限多个点
的全体非负线性组合 。它是顶点位于原点的凸锥体。等价地,它可以看作是由若干个经过原点的超平面围成的多面体,即 。特别地,半空间也是多面体锥。 - 多胞形,即有界的多面体。特别地,
、 、 、 、 维的多胞形就是常见的空集、点、线段、多边形和(通常意义下的)多面体。一个集合是多胞形,当且仅当它是有限多个点 的凸包 。一个 维的多胞形至少是由 个点生成的凸包。 - 单纯形(simplex),即恰由
个点生成的 维多胞形。它是最简单的 维多胞形。特别地, 、 、 、 、 维的多胞形分别是空集、点、线段、三角形和四面体。最简单的 维单纯形的例子,就是 。实际上,任何 维单纯形都可以通过仿射变换(即平移和伸缩)变为这样一种特殊情形。值得注意的是,单纯形法并不是真的在单纯形上进行的。
任何多面体,都可以看作是一个多面体锥和一个多胞形的 Minkowski 和:前者描述了多面体无界的部分,后者描述了多面体有界部分的形状。这个多面体锥是唯一的:多面体
线性规划的解与多面体的结构紧密相关。对于多面体
从几何角度看,这相当于在超平面
可行域
是空集。这说明问题 没有可行解,它的某些约束是相互矛盾的。此时,称问题 是 不可行的(infeasible),它的最优价值规定为 。可行域
非空,但是它包含一条方向向量为 的射线,即存在 使得 对于所有 都成立。因为沿着向量 的方向可以不断地移动超平面 ,而且移动过程中,集合 至少含有这条射线中的某个点,一定是非空的,所以,目标函数 可以取得任意大的值。此时,称问题 是 无界的(unbounded),它的最优价值规定为 。可行域
非空,且不含有任何方向向量为 的射线。此时,问题 称为 有界的(bounded)。记 为问题 的最优价值。超平面 处于一种临界位置:它与多面体 相交,且 包含于半空间 中。这样的超平面称为多面体 的一个 支撑超平面(supporting hyperlane)。问题 的最优解集就是 。作为支撑超平面和多面体的交集,集合 一定是多面体,且包含在 的边界中。它称为多面体 的一个 面(face)。形象地说,多面体就是由这些面围成的。除了这些由支撑超平面和多面体相交形成的面之外,一般来说,多面体还有两个面:空集和多面体本身。多面体的所有面在集合的包含关系下,形成了 格 的结构。一个
维的多面体的面的维度一定是 和 之间的整数。维度为 的面(即一个点)称为多面体 的 顶点(vertex)或 角点(corner point),维度为 的面称为多面体 的 边(edge),维度为 的面则称为多面体 的 维面(facet)。但是,并非所有多面体都有顶点。因为多面体的面的面仍然是多面体的面,而只有仿射子空间才没有严格更小的非空面,所以,多面体 的所有极小面都是仿射子空间。而且,同一个多面体的极小面的维度是相同的;特别地,多面体 的极小面的维度是 。因为多面体的面就是有界线性规划问题的解集,所以,需要搞清楚如何确定多面体的面的方程。设多面体
由若干个约束 描述,且 是 的一个面。如果某个约束在所有 处都取得等号,就称该约束在面 上是 紧的(tight)。面 上的点显然满足这些紧约束取等号得到的方程组,而这个方程组确定的仿射子空间和多面体 的交集,就是面 。反过来,任意选取多面体 的约束的一个子集,将这些约束取等、联立、求解得到的仿射子空间和多面体的交集,就是 的一个面。而且,选取的紧约束越多,得到的面(在包含意义下)就越小。特别地,标准形式的线性规划的可行域
的系数矩阵 的秩是 ,因此,它的极小面就是它的顶点。也就是说,如果问题有界,那么它的最优解一定可以选取为某个顶点。而且,这个顶点可以通过选取 个线性独立的紧约束联立得到。这正是线性规划的标准形式的方便之处。
例子
下图中,
这些讨论忽略了
值得指出的是,判定线性规划问题是否可行、是否有界,以及求出不等式组的可行解等问题,都和解线性规划问题本身同样困难2。比如说,下文中强对偶定理的证明就说明,解一个有界的线性规划问题,就相当于寻找一组不等式的可行解。因此,对于判断不等式组是否有解和判断方程组是否有非负解等任务,最有效的方式就是求解相应的可行性线性规划3。
另外,如果线性规划问题的一个约束,在可行域的所有面上都不是紧的,那么这个约束就是 冗余的(redundant)。本文开头早点师傅的例子中,工作时间的约束就是一个冗余约束。在给定的不等式组中判定某个不等式
常见算法
算法竞赛中,很少有问题只能通过线性规划的算法解决。大多数可以用线性规划方法求解的题目,通常也可以通过网络流等更为专门也更为高效的算法来解决。
解决线性规划问题的常见算法如下:
- 单纯形法
- 椭球法
- 内点法
尽管单纯形法的最差情形复杂度是指数级的,而内点法的复杂度是多项式的,但这两类算法在大多数实际问题中的表现都非常出色。相比之下,虽然椭球法的理论复杂度是多项式级别的,但是通常运行缓慢,并不实用。
目前尚不清楚线性规划问题是否存在强多项式复杂度的算法。
对偶问题
每个线性规划问题都对应着一个对偶问题。原问题和对偶问题的解有着紧密的联系。通过对偶问题,不仅有助于更深入地理解问题的结构,还常常可以提升原问题的求解效率。
对于线性规划问题
它的对偶问题
其中,对偶问题的决策变量
原问题
最小化问题 | 最大化问题 |
---|---|
大于等于约束 | 非负变量 |
小于等于约束 | 非正变量 |
等式约束 | 无约束变量 |
非负变量 | 小于等于约束 |
非正变量 | 大于等于约束 |
无约束变量 | 等式约束 |
目标函数系数 | 约束右侧常量 |
约束右侧常量 | 目标函数系数 |
特别地,标准形式的线性规划问题
的对偶问题是
对偶原理
原问题和对偶问题不仅在形式上互为镜像,而且两者的解也紧密相关。这称为 对偶原理(duality principal)。为表述方便,本节在叙述和证明定理时,将采用标准形式的原问题。
首先,弱对偶定理(weak duality theorem)说明,对偶问题的最大值不超过原问题的最小值。
弱对偶定理
对于所有
证明
如果原问题和对偶问题中的任何一个不可行,那么该不等式就是平凡的。假设两个问题都是可行的。那么,对于所有可行的
因此,将两侧取最值,就得到弱对偶定理成立。
基于弱对偶定理,原问题和对偶问题的解的情况只能有下面四种情形:
- 原问题和对偶问题均不可行,即
; - 原问题不可行,对偶问题无界,即
; - 原问题无界,对偶问题不可行,即
; - 原问题和对偶问题均有界。
弱对偶定理有很多推论。例如,它实际上给出了利用原问题和对偶问题的可行性判定原问题无界的方法。
推论
线性规划问题无界,当且仅当它可行,且它的对偶问题不可行。
将弱对偶定理应用于可行性线性规划问题,就得到 Farkas 引理(和它的各种变体)。
Farkas 引理
对于
- 存在
,使得 且 ; - 存在
,使得 且 。
证明
考虑线性规划问题
Farkas 实际上是一种 超平面分离定理。情形 1 是在说,点
事实上,对于弱对偶定理允许的第四种情形,有更强的结论成立:原问题和对偶问题的最优值是相等的。将后三种情形合在一起,就得到 强对偶定理(strong duality theorem):只要原问题或对偶问题之一是可行的,它们的最优值就必然相等。
强对偶定理
对于所有
只要两个集合之一非空。
证明
弱对偶定理唯一没有包含的情形,就是原问题和对偶问题都可行的情形。此时,考虑如下可行性线性规划问题
如果问题
但是
因此,只需要证明问题
因为
此时,如果
但是,因为已经假设定理中的原问题和对偶问题都可行,也就是说,存在
成立,所以,有
这显然矛盾。这一矛盾说明问题
从强对偶定理的证明过程还能得到如下推论:
推论
设原问题和对偶问题的一组可行解
强对偶定理说明,对于可行的线性规划问题,只需要求解它的对偶问题,就能够得到原问题的最优价值。
互补松弛条件
和其它的优化问题一样,互补松弛条件是线性规划问题的最优性条件的一部分。而且,因为目标函数是线性的,所以对于线性规划问题来说,互补松弛条件是可行解成为最优解的充分必要条件。
所谓 互补松弛(complementary slackness)条件,就是指只有在原问题(对偶问题)中的约束取得等号(即约束是紧的)的时候,对偶问题(原问题)中与之对应的变量才能取非零值。如果将变量取非零值也当成一条松弛的约束,那么这就相当于说,原问题和对偶问题中相对应的变量和约束不能同时是松弛的。因此,这一条件称为互补松弛条件。
以标准形式的线性规划问题为例,如下结论成立:
定理
假设
时,
证明
因为
因此,互补松弛条件成立,当且仅当
标准形式可能太过特殊。该定理的稍微一般的形式如下:
定理
假设
时,
证明
证明基本同上,只是这次要将差值写成
互补松弛条件提供了判断线性规划问题的可行解的最优性的简单条件。
原始‑对偶方法
对偶问题可以辅助原问题的求解。在解决线性规划问题时,常常会用到的一种方法是 原始‑对偶方法(primal-dual method)。它通过求解一系列相对简单的辅助问题,逐步改进对偶问题的解,进而获得原始问题的最优解。
对于标准形式的原问题
和它的对偶问题
上一节已经说明,要找到它们的最优解,只需要找到问题
从对偶问题
的一个可行解 出发,计算对偶问题的紧约束的集合根据互补松弛条件,如果存在问题
的可行解 使得 仅在 上成立,就意味着已经找到一组最优解。因此,考虑线性规划问题如果问题
的最小值是 ,那么最优解 中的 就是原问题 的最优解。否则,可以求出它的对偶问题 的解 :根据强对偶定理可知,
。根据问题
的解改进对偶问题 的可行解。设 ,其中, ,则一定有 。因此,只要保证 仍然是对偶问题的可行解 ,就要尽可能大地选取 的值。对于
,有所以,问题
的这些约束总是可以满足的。对于剩下的约束,即
时,只需要取就可以在保证可行性的前提下,尽可能大地改进对偶问题的解,然后回到步骤 1 继续迭代。特别地,如果上式中的集合为空集,即
,那么,对偶问题 无界,原问题 不可行。
这个过程中其实只有问题
算法竞赛中,原始‑对偶方法广泛地应用于各类组合优化问题。例如二分图最大权匹配的 匈牙利算法、最小费用流的 消圈算法 和 SSP 算法(原始‑对偶算法)、最短路的 Dijkstra 算法、最大流的 Ford–Fulkerson 增广算法 等,都可以看作是原始‑对偶方法的直接应用。
整数规划
整数规划(integer programming)通常指 整数线性规划(integer linear programming, ILP)。标准形式的整数线性规划如下:
其中,
整数约束显著增加了整数规划问题的复杂性。许多组合优化问题,例如背包问题、适定性问题以及众多图论中的优化问题,都可以表示为整数规划模型,而这些问题中的多数被证明是 NP 困难的。
全幺模矩阵
正因如此,对于很多大规模的整数优化问题,有时候会考虑将它的整数约束松弛掉,转而求解一个线性规划问题。通常来说,松弛后的线性规划问题的最优价值只是原来的整数规划问题的一个下界估计(假设问题是最小化问题)。但是,如果松弛后的线性规划问题的最优解恰好是整数解,那么,它也一定是原来的整数规划问题的最优解。
一个自然的问题是,是否存在条件,能够保证线性规划问题的最优解都是整数解?全幺模矩阵的概念就提供了这样的一个条件。
全幺模矩阵
如果矩阵
特别地,全幺模矩阵的所有元素都是
定理
对于全幺模矩阵
都有整数最优解,只要它们都有界。
证明
前文已经说明,线性规划问题的最优解集可以取作它的一个极小面,而后者是由若干线性独立的紧约束作为等式联立得到的方程组的解:
记这个方程组为
就是极小面上的一个整数解。
常见的图论模型中,网络流、最短路、二分图等对应的线性规划问题的系数矩阵都是全幺模矩阵。因此,只需要这些问题仅涉及整数参数,它们的最优解就可以取作整数,而不用担心线性规划问题的解对应着分数流、分数匹配等情形。所以,最大流、最小割、最小费用流、最短路、差分约束、二分图最大(权)匹配和最小点覆盖 等问题,都可以转化为线性规划问题求解。而且,最大流与最小割、最短路与差分约束、二分图最大匹配和最小点覆盖,两两互为对偶问题。
除此之外,还有一些常见的图论模型,它所有的可行解恰巧是某个顶点均为整点的多胞形的全体顶点。因此,可以通过巧妙地选取约束,使得相应的组合优化问题的解,恰为某个线性规划问题的最优解。例如,一般图匹配和生成树等图论模型都属于这种情况,因此 一般图最大(权)匹配 和 最小生成树 等问题同样可以转化为线性规划问题。
参考文献与注释
- Schrijver, Alexander. Theory of linear and integer programming. John Wiley & Sons, 1998.
- Papadimitriou, Christos H., and Kenneth Steiglitz. Combinatorial optimization: algorithms and complexity. Courier Corporation, 1998.
- Duality in linear programming. Part 1—definition and construction. by adamant - Codeforces blog
- Duality in linear programming. Part 2—in competitive programming. by adamant - Codeforces blog
本页面最近更新:2025/8/1 23:34:41,更新历史
发现错误?想一起完善? 在 GitHub 上编辑此页!
本页面贡献者:Ir1d, H-J-Granger, zryi2003, sshwy, StudyingFather, countercurrent-time, Enter-tainer, huhaoo, Konano, NachtgeistW, CCXXXI, ksyx, Marcythm, MegaOwIer, partychicken, Suyun514, AngelKitty, baker221, cjsoft, diauweb, Early0v0, ezoixx130, GekkaSaori, isdanni, LovelyBuggies, Makkiy, mgt, minghu6, P-Y-Y, PotassiumWings, QAQAutoMaton, SamZhangQingChuan, weiyong1024, c-forrest, GavinZhengOI, Gesrua, kxccc, lychees, Peanut-Tang, SukkaW, Tiphereth-A, xiaodong2077, yusancky, YZircon, ZnPdCo
本页面的全部内容在 CC BY-SA 4.0 和 SATA 协议之条款下提供,附加条款亦可能应用