分離超平面定理
兩個不相交的凸集,一定可以被一個超平面分開——這是整個對偶理論的幾何起點。
上一篇談到凸集的交集仍是凸集;這一篇要處理的是相反的問題:**兩個不相交的凸集,能不能被一刀切開?**答案是可以,而且這一刀(一個超平面)的存在性,正是整個對偶理論的幾何起點。
01 定理敘述
設 為兩個不相交()的非空凸集。若其中至少一個是緊緻的(compact),則存在 與 ,使得
把 和 想成兩灘不相交的水漬。因為兩者都是「凸」的(沒有凹進去的地方),你永遠可以在它們之間找到一條直線( 維時是超平面)把兩灘水完全隔開,一邊全是 ,另一邊全是 。
拖曳任一個點來改變 (實心)或 (空心虛線)的形狀。磚紅色直線是分離超平面,由兩集合間距離最近的一對點的中垂線構成——這正是下面證明的構造方式。試著把兩群點拖到重疊,你會看到這條線不再真的能分開兩邊,因為此時 ,定理的前提被破壞了。
02 證明:從最近點對開始構造
▸展開完整證明Proof · 用最近點對構造
取 中一點 、 中一點 ,使得兩點間距離 在 上取到最小值(因為其中一個集合緊緻、另一個非空凸,這個最小值存在)。
令 (因為 ,故 ),並取
也就是通過 中點、且垂直於 的超平面。
關鍵引理:對任意 ,都有 。
用反證法:若存在 使 ,考慮線段 (,因 凸,此線段完全落在 內)。可以證明沿著這條線段前進一小步,到 的距離會比 更小——與 是最近點矛盾。
同理可證對任意 ,都有 。
把兩個不等式與 的定義接起來,並利用 (因為 恰好是兩者的中點值),就得到對所有 有 、對所有 有 。
∎
定理需要「至少一個集合緊緻」這個技術性條件——如果兩個都只是開集合且不緊緻(例如兩個漸近但不相交的雙曲線區域),嚴格分離可能不成立,只能拿到「弱分離」( 換成非嚴格的邊界情形)。多數最佳化應用裡這個條件都自動滿足,不用太擔心。
03 為什麼這對對偶理論重要
強對偶定理的標準證明,本質上就是把「原問題最佳值」和「對偶問題可行值」看成 空間裡兩個不相交的凸集,再套用這篇的分離超平面定理——分離出來的超平面,其法向量 的分量,就是對偶最佳解本身。下一篇會先處理 LP 的幾何直觀,再一路推向強對偶定理的完整證明。