強對偶定理

在 LP 中,只要原問題有最佳解,對偶問題的最佳值必定與它相等——原/對偶最佳值相遇的幾何。

這是 MVP 首批 7 篇主幹的最後一篇。前面鋪了三塊墊腳石——凸集的分離超平面定理、LP 可行域的頂點幾何、單體法的 pivot——這篇要把它們接起來,證明 LP 裡最漂亮的一個結論:原問題與對偶問題的最佳值永遠相等

01 弱對偶回顧

給定原問題 min{cx:Axb,x0}\min\{c^\top x : Ax \ge b, x \ge 0\},其對偶問題是 max{by:Ayc,y0}\max\{b^\top y : A^\top y \le c, y \ge 0\}。**弱對偶(weak duality)**是很容易的一半:對任意原可行 xx 與對偶可行 yy,都有

bycx.b^\top y \le c^\top x.

一行證明:by(Ax)y=x(Ay)xc=cxb^\top y \le (Ax)^\top y = x^\top (A^\top y) \le x^\top c = c^\top x,兩個不等式分別用到 Axb,y0Ax \ge b, y\ge 0Ayc,x0A^\top y \le c, x \ge 0

02 強對偶定理敘述

**強對偶(strong duality)**更進一步:只要原問題有最佳解 xx^\star,對偶問題也必有最佳解 yy^\star,且

cx=by.c^\top x^\star = b^\top y^\star.
原問題與對偶問題的最佳值相遇
SVG · 具體例子
013primal 0.0dual 12.0
原問題頂點 (0, 0)對偶頂點 (3, 0)

用一個具體例子:原問題 max 2x+3y2x+3y(三個頂點可切換),對偶 min 4y1+5y24y_1+5y_2(三個頂點可切換)。橘色箭頭是原問題目前頂點的目標值、灰色箭頭是對偶目前頂點的目標值——不管怎麼切換,灰色永遠不會跑到橘色左邊(弱對偶)。切到兩邊都是各自的最佳頂點時,兩個箭頭會精確疊在同一點上——這就是強對偶。

直覺

弱對偶保證「對偶可行值永遠是原問題的一個下界」——就像從各種角度量身高,量出來的都不會比真實身高高。強對偶則說:只要原問題真的有解,一定存在某個角度,量出來的下界剛好等於真實身高,不多不少。

03 證明(用分離超平面定理)

展開完整證明Proof · 幾何構造

xx^\star 是原問題的一個最佳解,最佳值為 v=cxv^\star = c^\top x^\star。定義 Rm+1\mathbb{R}^{m+1} 中兩個集合:

S={(Axb, cxv):x0},T={(u,t):u0, t<0}.S = \{(Ax - b,\ c^\top x - v^\star) : x \ge 0\}, \qquad T = \{(u, t) : u \ge 0,\ t < 0\}.

可以驗證 SS 是凸集(x0x \ge 0 是凸集,AxbAx-bcxvc^\top x - v^\star 都是仿射映射,仿射映射保凸)。而 TT 顯然也是凸集。

關鍵一步ST=S \cap T = \emptyset。若不然,存在 x0x \ge 0 使 AxbAx \ge b(即 xx 原問題可行)且 cx<vc^\top x < v^\star——但這與 vv^\star 是最佳值矛盾。

由於 S,TS, T 不相交的凸集,套用分離超平面定理:存在 (y,λ)0(y, \lambda) \ne 0(其中可以取 λ0\lambda \ge 0y0y \ge 0,細節上需要對偶錐的技術性論證,這裡略過)使得對所有 x0x \ge 0

y(Axb)+λ(cxv)0.y^\top (Ax - b) + \lambda (c^\top x - v^\star) \ge 0.

λ>0\lambda > 0 的情形(退化的 λ=0\lambda = 0 情形需要額外處理,通常靠原問題的可行性排除),整理並除以 λ\lambda、令 yˉ=y/λ\bar{y} = y / \lambda,可以推出 yˉ0\bar{y} \ge 0AyˉcA^\top \bar{y} \le c(即 yˉ\bar{y} 對偶可行),且 byˉvb^\top \bar{y} \ge v^\star

配合第一節的弱對偶 byˉvb^\top \bar{y} \le v^\star,兩者夾在一起得到 byˉ=v=cxb^\top \bar{y} = v^\star = c^\top x^\star——也就是 yˉ\bar{y} 正是對偶最佳解,強對偶成立。

注意

上面證明中「λ=0\lambda = 0 的退化情形」被刻意略過了——嚴謹處理需要更小心的論證(通常利用原問題可行域非空這個條件排除掉),這是教科書等級證明常見的簡化。想要完全沒有跳步的版本,可以參考 Boyd & Vandenberghe《Convex Optimization》第 5 章。

04 互補鬆弛條件

強對偶還有一個等價、且在演算法上更好用的刻畫:x,yx^\star, y^\star 分別是原、對偶最佳解,若且唯若它們同時可行,且滿足互補鬆弛(complementary slackness)——對每一條約束,原變數與對應的對偶鬆弛不能同時非零。這個條件正是 KKT 條件在 LP 特例下的樣子,之後在 NLP 的 KKT 那篇會再完整展開。

至此,MVP 首批 7 篇主幹全部跑通:從凸集出發,經過分離超平面、LP 幾何、單體法,一路走到強對偶定理——Astro + KaTeX + D3 互動 + 可摺疊證明的完整流程都驗證過了。接下來可以往回補完整的 ~110 篇文章清單。

留言討論 · Giscus
💬
用 GitHub 帳號登入即可留言、提問
TODO(G):接上 Giscus repo 設定後移除此佔位