Share
Embed
Transcript
47 slides
-
⚫ 線形相補性問題LCP(, ) − 実行可能条件と相補性条件を満たす点を探す • 実行可能条件: = + ≥
0, ≥ 0 • 相補性条件:⊤ = 0 − ∈ ℝ, ∈ ℝ, ∈ ℝ, ∈ ℝ× find subject to = + , ≥ 0 ⊤ = 0 2020/5/16 線形相補性問題ゼミ② 2 線形相補性問題の復習 -
⚫ 幾何的解釈 − 実行可能性:多面体上にある − 相補性:二つの超平面のどちらかの上にある • = 0 +
⊤ = 0 2020/5/16 線形相補性問題ゼミ② 3 線形相補性問題の復習 -
教科書目次 1. Introduction 2. Background 3. Existence and Multiplicity 4.
Pivoting Methods 5. Iterative Methods 6. Geometry and Degree Theory 7. Sensitivity and Stability Analysis 2020/5/16 線形相補性問題ゼミ② 4 -
⚫ 行列の性質とLCPの性質を結びつけること − 行列クラス:特定の性質を満たす行列の集合 − LCPクラス:特定の性質を満たすLCPの集合 ⚫ クラス間の関係の整理が重要 − 行列クラスとLCPクラスの対応関係
− 行列クラス同士の包含関係 − LCPクラス同士の包含関係 2020/5/16 線形相補性問題ゼミ② 5 3章の目的 -
1. Positive Definite and Semi-Definite Matrices 2. The Classes Q
and Q0 3. P-Matrices and Global Uniqueness 4. P0-Matrices and w-Uniqueness 5. Sufficient Matrices 6. Nondegenerate Matrices and Local Uniqueness 7. An Augmented LCP 8. Copositive Matrices 9. Semimonotone and Regular Matrices 10.Completely-Q Matrices 11.Z-Matrices and Least-Element Theory 2020/5/16 線形相補性問題ゼミ② 6 3. Existence and Multiplicity -
行列クラスとLCPクラスの対応関係 2020/5/16 線形相補性問題ゼミ② 7 3. Existence and Multiplicity (⇒):実行可能なら十分条件 (⇐):実行可能なら必要条件
行列/LCP 実行可 存在性 唯一性 凸性 有限性 凸QP LP S ⇔ ⇐ ⇐ Q ⇒ ⇔(def) ⇐ (⇐) (⇐) P ⇒ ⇒ ⇔ ⇒ ⇒ (⇐) (⇐) 列十分 ⇔ (⇐) (⇐) 行十分 (⇒) 非退化 ⇐ ⇔ (⇐) (⇐) 正定値 ⇒ ⇒ ⇒ ⇒ ⇒ ⇔ ⇐ K ⇒ ⇒ ⇒ ⇒ ⇒ ⇒ ⇔ -
実行可能性の定義 ⚫ 定義:実行可能性 − LCP(, )は実行可能 − ⇔∃ ∈ ℝ,
= + ≥ 0, ≥ 0 2020/5/16 線形相補性問題ゼミ② 8 3. Existence and Multiplicity 実行可能性とS行列 -
S行列の定義 ⚫ 定義:S行列 − 行列 ∈ ℝ×はS行列 − ⇔∃ ∈
ℝ, > 0, ≥ 0 ⚫ 解釈: − 半空間⊤ ≥ 0がすべてのベクトル , を含む 2020/5/16 線形相補性問題ゼミ② 9 3. Existence and Multiplicity 実行可能性とS行列 1 2 2 1 = 1 ⊤ 2 ⊤ ∀: ≥ 0, ≥ 0 は錐の非有界ベクトル -
S行列と実行可能性の関係 ⚫ 定理:実行可能性の必要十分条件 − 任意のベクトル ∈ ℝでLCP(, )は実行可能 − ⇔行列がS行列
⚫ 解釈: − 非有界ベクトルが存在⇒実行可能集合が閉じない 2020/5/16 線形相補性問題ゼミ② 10 3. Existence and Multiplicity 実行可能性とS行列 -
S行列と実行可能性の関係 ⚫ 定理:実行可能性の必要十分条件 − 任意のベクトル ∈ ℝでLCP(, )は実行可能 − ⇔行列がS行列
⚫ 解釈: − 非有界ベクトルが存在⇒実行可能集合が閉じない 2020/5/16 線形相補性問題ゼミ② 11 3. Existence and Multiplicity 実行可能性とS行列 -
行列クラスとLCPクラスの対応関係 2020/5/16 線形相補性問題ゼミ② 12 3. Existence and Multiplicity (⇒):実行可能なら十分条件 (⇐):実行可能なら必要条件
行列/LCP 実行可 存在性 唯一性 凸性 有限性 凸QP LP S ⇔ ⇐ ⇐ Q ⇒ ⇔(def) ⇐ (⇐) (⇐) P ⇒ ⇒ ⇔ ⇒ ⇒ (⇐) (⇐) 列十分 ⇔ (⇐) (⇐) 行十分 (⇒) 非退化 ⇐ ⇔ (⇐) (⇐) 正定値 ⇒ ⇒ ⇒ ⇒ ⇒ ⇔ ⇐ K ⇒ ⇒ ⇒ ⇒ ⇒ ⇒ ⇔ -
Q行列の定義 ⚫ 定義:Q行列 − 行列 ∈ ℝ×はQ行列 − ⇔任意のベクトル ∈
ℝでLCP(, )に解が存在 ⚫ 定理:解の存在性の必要十分条件 − 行列 ∈ ℝ×はQ行列 − ⇔相補錐 は次元空間全体ℝ 2020/5/16 線形相補性問題ゼミ② 13 3. Existence and Multiplicity 解の存在性とQ行列 2 1 −1 −2 = 1 , 2 2 1 −1 −2 Q0⇔実行可能なら可解 -
行列クラスとLCPクラスの対応関係 2020/5/16 線形相補性問題ゼミ② 14 3. Existence and Multiplicity (⇒):実行可能なら十分条件 (⇐):実行可能なら必要条件
行列/LCP 実行可 存在性 唯一性 凸性 有限性 凸QP LP S ⇔ ⇐ ⇐ Q ⇒ ⇔(def) ⇐ (⇐) (⇐) P ⇒ ⇒ ⇔ ⇒ ⇒ (⇐) (⇐) 列十分 ⇔ (⇐) (⇐) 行十分 (⇒) 非退化 ⇐ ⇔ (⇐) (⇐) 正定値 ⇒ ⇒ ⇒ ⇒ ⇒ ⇔ ⇐ K ⇒ ⇒ ⇒ ⇒ ⇒ ⇒ ⇔ -
P行列の定義 ⚫ 定義:P行列 − 行列 ∈ ℝ×はP行列 − ⇔∀ ⊆
1, … , , det > 0 ⚫ 解釈: − 任意の相補行列の行ベクトルは反時計回り 2020/5/16 線形相補性問題ゼミ② 15 3. Existence and Multiplicity 解の唯一性とP行列 ※相補錐の図とは異なる 1 2 2 1 1 2 2 1 = 1 ⊤ 2 ⊤ -
解の唯一性とP行列の関係 ⚫ 定理:解の唯一性の必要十分条件 − 行列 ∈ ℝ×はP行列 − ⇔任意のベクトル ∈
ℝでLCP(, )の解は唯一 2020/5/16 線形相補性問題ゼミ② 16 3. Existence and Multiplicity 解の唯一性とP行列 2 1 1 2 -
解の唯一性とP行列の関係 ⚫ 定理:解の唯一性の必要十分条件 − 行列 ∈ ℝ×はP行列 − ⇔任意のベクトル ∈
ℝでLCP(, )の解は唯一 2020/5/16 線形相補性問題ゼミ② 17 3. Existence and Multiplicity 解の唯一性とP行列 2 1 1 2 -
解の唯一性とP行列の関係 ⚫ 定理:解の唯一性の必要十分条件 − 行列 ∈ ℝ×はP行列 − ⇔任意のベクトル ∈
ℝでLCP(, )の解は唯一 2020/5/16 線形相補性問題ゼミ② 18 3. Existence and Multiplicity 解の唯一性とP行列 2 1 1 2 -
P行列の超平面分離性 ⚫ 補題:P行列の超平面分離性 − 行列 ∈ ℝ×はP行列 − ⇔∀ ∈
1, … , , ∃ ∈ ℝ • ∀ ∈ , > 0, ⊤ > 0 • ∀ ∉ , < 0, ⊤ < 0 ⚫ 解釈: − ベクトル集合を分離する超平面が存在 2020/5/16 線形相補性問題ゼミ② 19 3. Existence and Multiplicity 解の唯一性とP行列 1 1 2 2 1 1 2 2 1,2 1 , 2 1 , 2 -
P行列とS行列の関係 ⚫ 補題:P行列とS行列の包含関係 − P行列⇒S行列 ⚫ 証明: − 前スライドの補題で =
1, … , とすると − ∀ ∈ , > 0, ⊤ > 0で,が非有界ベクトル ⚫ 注意: − LCPの観点から見ても, − 唯一解が存在(実行可能)⇒実行可能解が存在 2020/5/16 線形相補性問題ゼミ② 20 3. Existence and Multiplicity 解の唯一性とP行列 -
行列クラスとLCPクラスの対応関係 2020/5/16 線形相補性問題ゼミ② 21 3. Existence and Multiplicity (⇒):実行可能なら十分条件 (⇐):実行可能なら必要条件
行列/LCP 実行可 存在性 唯一性 凸性 有限性 凸QP LP S ⇔ ⇐ ⇐ Q ⇒ ⇔(def) ⇐ (⇐) (⇐) P ⇒ ⇒ ⇔ ⇒ ⇒ (⇐) (⇐) 列十分 ⇔ (⇐) (⇐) 行十分 (⇒) 非退化 ⇐ ⇔ (⇐) (⇐) 正定値 ⇒ ⇒ ⇒ ⇒ ⇒ ⇔ ⇐ K ⇒ ⇒ ⇒ ⇒ ⇒ ⇒ ⇔ -
解集合の凸性の定義 ⚫ 定義:解集合の凸性 − 解集合SOL(, )は凸 − ⇔∀1 , 2
∈ , , 1 , 2 の内点も解 ⚫ 注意: − 解集合が空でも凸,唯一でも凸 2020/5/16 線形相補性問題ゼミ② 22 3. Existence and Multiplicity 解集合の凸性と列十分行列 -
列十分行列の定義 ⚫ 定義:列十分行列 − 行列 ∈ ℝは列十分行列 − ⇔(∀, ≤
0 ⇒ ∀, = 0) ⚫ 解釈: − すべての添字で符号反転する点は境界にしかない 2020/5/16 線形相補性問題ゼミ② 23 3. Existence and Multiplicity 解集合の凸性と列十分行列 ベクトルはで符号反転する ⇔ ≤ 0 列十分 非列十分 列十分 1 1 ≤ 0 2 2 ≤ 0 -
解集合の凸性と列十分条件の関係 ⚫ 定理:解集合の凸性の必要十分条件 − 行列 ∈ ℝ×は列十分行列 − ⇔任意のベクトル ∈
ℝで解集合SOL(, )は凸 2020/5/16 線形相補性問題ゼミ② 24 3. Existence and Multiplicity 解集合の凸性と列十分行列 -
P行列と符号反転の関係 ⚫ 補題:P行列と符号反転性の必要十分条件 − 行列 ∈ ℝ× はP行列 − ⇔(∀,
≤ 0 ⇒ = 0) ⚫ 解釈: − すべてが符号反転する点がゼロしかない 2020/5/16 線形相補性問題ゼミ② 25 3. Existence and Multiplicity 解集合の凸性と列十分行列 列十分 非P 列十分 P -
P行列と列十分行列の関係 ⚫ 定理:P行列と列十分行列の包含関係 − P行列⇒列十分行列 ⚫ 証明 − P行列 ∀,
≤ 0 ⇒ ∀, = 0 − 列十分行列 ∀, ≤ 0 ⇒ ∀, = 0 − 列十分行列は = 0でもOK 2020/5/16 線形相補性問題ゼミ② 26 3. Existence and Multiplicity 解集合の凸性と列十分行列 列十分 非P 列十分 P -
行列クラスとLCPクラスの対応関係 2020/5/16 線形相補性問題ゼミ② 27 3. Existence and Multiplicity (⇒):実行可能なら十分条件 (⇐):実行可能なら必要条件
行列/LCP 実行可 存在性 唯一性 凸性 有限性 凸QP LP S ⇔ ⇐ ⇐ Q ⇒ ⇔(def) ⇐ (⇐) (⇐) P ⇒ ⇒ ⇔ ⇒ ⇒ (⇐) (⇐) 列十分 ⇔ (⇐) (⇐) 行十分 (⇒) 非退化 ⇐ ⇔ (⇐) (⇐) 正定値 ⇒ ⇒ ⇒ ⇒ ⇒ ⇔ ⇐ K ⇒ ⇒ ⇒ ⇒ ⇒ ⇒ ⇔ -
行十分行列の定義 ⚫ 定義:行十分行列 − 行列 ∈ ℝ×は行十分行列 − ⇔転置行列⊤ ∈
ℝ×が列十分行列 2020/5/16 線形相補性問題ゼミ② 28 3. Existence and Multiplicity 解の存在性と行十分行列 行十分 非行十分 -
行十分行列とKKT条件の関係 ⚫ 補題: − 行列は行十分行列 − ⇔KKT条件を満たす解はLCPの解 ⚫ 証明(⇒だけ): −
LCPのQP min ⊤ + s.t. + ≥ 0, ≥ 0 − LCPのQPのKKT条件より ⊤ + + ⊤ − ⊤ = 0 ⊤⊤ − = 0 − 式変形すると 0 = ⊤ + + ⊤ − = ⊤ + + ⊤⊤ − = ⊤ + 2020/5/16 線形相補性問題ゼミ② 29 3. Existence and Multiplicity 解の存在性と行十分行列 -
解の存在性と行十分行列の関係 ⚫ 定理:解の存在性の行十分条件 − 行列は行十分行列⇒ − (LCPが実行可能⇒解が存在) ⚫ 証明: −
実行可能 − ⇒目的値に下界があるため,KKT解が存在 − ⇒行十分行列であるため,KKT解はLCPの解 2020/5/16 線形相補性問題ゼミ② 30 3. Existence and Multiplicity 解の存在性と行十分行列 -
行列クラスとLCPクラスの対応関係 2020/5/16 線形相補性問題ゼミ② 31 3. Existence and Multiplicity (⇒):実行可能なら十分条件 (⇐):実行可能なら必要条件
行列/LCP 実行可 存在性 唯一性 凸性 有限性 凸QP LP S ⇔ ⇐ ⇐ Q ⇒ ⇔(def) ⇐ (⇐) (⇐) P ⇒ ⇒ ⇔ ⇒ ⇒ (⇐) (⇐) 列十分 ⇔ (⇐) (⇐) 行十分 (⇒) 非退化 ⇐ ⇔ (⇐) (⇐) 正定値 ⇒ ⇒ ⇒ ⇒ ⇒ ⇔ ⇐ K ⇒ ⇒ ⇒ ⇒ ⇒ ⇒ ⇔ -
解集合の有限性の定義 ⚫ 定義:解集合の有限性 − LCP(, )の解は有限個 − ⇔各解の近傍に他の解がない ⚫ 注意:
− 解がなくても有限 2020/5/16 線形相補性問題ゼミ② 32 3. Existence and Multiplicity 解集合の有限性と非退化行列 -
非退化行列の定義 ⚫ 定義:非退化行列 − 行列は非退化行列 − ⇔∀ ⊆ 1, …
, , det ≠ 0 ⚫ 解釈: − 任意の相補行列の行ベクトルは線形独立 2020/5/16 線形相補性問題ゼミ② 33 3. Existence and Multiplicity 解集合の有限性と非退化行列 1 2 2 1 = 1 2 2 1 1 2 -
解集合の有限性と非退化行列の関係 ⚫ 定理:解集合の有限性の必要十分条件 − 行列は非退化行列 − ⇔任意のベクトルでLCPの解は有限個 2020/5/16 線形相補性問題ゼミ② 34
3. Existence and Multiplicity 解集合の有限性と非退化行列 2 1 1 2 -
解集合の有限性と非退化行列の関係 ⚫ 定理:解集合の有限性の必要十分条件 − 行列は非退化行列 − ⇔任意のベクトルでLCPの解は有限個 2020/5/16 線形相補性問題ゼミ② 35
3. Existence and Multiplicity 解集合の有限性と非退化行列 2 1 1 2 -
行列クラスとLCPクラスの対応関係 2020/5/16 線形相補性問題ゼミ② 36 3. Existence and Multiplicity (⇒):実行可能なら十分条件 (⇐):実行可能なら必要条件
行列/LCP 実行可 存在性 唯一性 凸性 有限性 凸QP LP S ⇔ ⇐ ⇐ Q ⇒ ⇔(def) ⇐ (⇐) (⇐) P ⇒ ⇒ ⇔ ⇒ ⇒ (⇐) (⇐) 列十分 ⇔ (⇐) (⇐) 行十分 (⇒) 非退化 ⇐ ⇔ (⇐) (⇐) 正定値 ⇒ ⇒ ⇒ ⇒ ⇒ ⇔ ⇐ K ⇒ ⇒ ⇒ ⇒ ⇒ ⇒ ⇔ -
LCPの二次計画問題 ⚫ 補題: − ベクトルはLCPの解 − ⇔ベクトルはQPの大域解 minimize ⊤ +
subject to = + , ≥ 0 2020/5/16 線形相補性問題ゼミ② 37 3. Existence and Multiplicity 凸二次計画問題と正定値行列 -
正定値行列の定義 ⚫ 定義:正定値行列 − 行列は正定値行列 − ⇔∀ ∈ ℝ, ⊤
> 0 ⚫ 補題:QPの目的関数の凸性 − 行列は正定値行列 − ⇔任意のベクトルでQPの目的関数は凸 ⚫ 定理: − 行列 ∈ ℝ×は半正定値行列 − ⇒任意のベクトル ∈ ℝでLCP(, )は多項式時 間で解ける(QPの多項式時間アルゴリズムで) 2020/5/16 線形相補性問題ゼミ② 38 3. Existence and Multiplicity 凸二次計画問題と正定値行列 -
正定値行列の包含関係 ⚫ 定理: − 正定値行列⇒S行列 • 二者択一の定理より − 正定値行列⇒行十分行列(⇒Q行列) •
KKT点は唯一⇒KKT点は必ずLCPの解 − 正定値行列⇒P行列(⇒列十分行列) • 解は唯一⇒解集合は凸 − 正定値行列⇒非退化行列 • 解は唯一⇒有限個 2020/5/16 線形相補性問題ゼミ② 39 3. Existence and Multiplicity 凸二次計画問題と正定値行列 -
行列クラスとLCPクラスの対応関係 2020/5/16 線形相補性問題ゼミ② 40 3. Existence and Multiplicity (⇒):実行可能なら十分条件 (⇐):実行可能なら必要条件
行列/LCP 実行可 存在性 唯一性 凸性 有限性 凸QP LP S ⇔ ⇐ ⇐ Q ⇒ ⇔(def) ⇐ (⇐) (⇐) P ⇒ ⇒ ⇔ ⇒ ⇒ (⇐) (⇐) 列十分 ⇔ (⇐) (⇐) 行十分 (⇒) 非退化 ⇐ ⇔ (⇐) (⇐) 正定値 ⇒ ⇒ ⇒ ⇒ ⇒ ⇔ ⇐ K ⇒ ⇒ ⇒ ⇒ ⇒ ⇒ ⇔ -
K行列の定義 ⚫ 定義:Z行列 − 行列はZ行列⇔非対角成分が非正 ⚫ 定義:K行列 − 行列はK行列⇔行列がS行列かつZ行列 2020/5/16
線形相補性問題ゼミ② 41 3. Existence and Multiplicity 線形計画問題とK行列 = − − − − − − 1 2 2 1 1 2 2 1 = 1 2 -
LCPの線形計画問題 ⚫ 定理: − ベクトルはLCP(, )の解 − ⇔ベクトルはLP(, )の解 minimize
⊤ subject to = + , ≥ 0 2020/5/16 線形相補性問題ゼミ② 42 3. Existence and Multiplicity 線形計画問題とK行列 1 2 2 1 -
LCPの線形計画問題 ⚫ 注意:Z行列の場合 − LCPは解を二つ持つこともある • 「はLCPの解⇒はLPの解」が成り立たない − 実行可能でない場合もある •
S行列ではないため 2020/5/16 線形相補性問題ゼミ② 43 3. Existence and Multiplicity 線形計画問題とK行列 1 2 2 1 -
LCPの線形計画問題 ⚫ 解釈: − 点はLPの解:点の双対錐がを含む − LCP=LP:すべての相補点の双対錐がを含む − ↑の性質で行列クラスを定義:隠れK行列 2020/5/16
線形相補性問題ゼミ② 44 3. Existence and Multiplicity 線形計画問題とK行列 1 2 2 1 -
行列クラスとLCPクラスの対応関係 2020/5/16 線形相補性問題ゼミ② 45 3. Existence and Multiplicity (⇒):実行可能なら十分条件 (⇐):実行可能なら必要条件
行列/LCP 実行可 存在性 唯一性 凸性 有限性 凸QP LP S ⇔ ⇐ ⇐ Q ⇒ ⇔(def) ⇐ (⇐) (⇐) P ⇒ ⇒ ⇔ ⇒ ⇒ (⇐) (⇐) 列十分 ⇔ (⇐) (⇐) 行十分 (⇒) 非退化 ⇐ ⇔ (⇐) (⇐) 正定値 ⇒ ⇒ ⇒ ⇒ ⇒ ⇔ ⇐ K ⇒ ⇒ ⇒ ⇒ ⇒ ⇒ ⇔ -
1. Positive Definite and Semi-Definite Matrices 2. The Classes Q
and Q0 3. P-Matrices and Global Uniqueness 4. P0-Matrices and w-Uniqueness 5. Sufficient Matrices 6. Nondegenerate Matrices and Local Uniqueness 7. An Augmented LCP 8. Copositive Matrices 9. Semimonotone and Regular Matrices 10.Completely-Q Matrices 11.Z-Matrices and Least-Element Theory 2020/5/16 線形相補性問題ゼミ② 46 3. Existence and Multiplicity -
4. P0-Matrices and w-Uniqueness − P0行列,列/行適切行列:P行列の拡張 − w-唯一性(=列適切):任意の解での値が等しい 7. An
Augmented LCP − 必ず解が存在する補助問題を定義 − 解が特定の条件を満たすとき,元の問題は解を持つ 8. Copositive Matrices − 正定値行列の定義を ≥ 0に限定 − 解の存在性は保証できるのか? 9. Semimonotone and Regular Matrices − 半単調行列: > 0でLCP(, )の解が唯一 − 標準?行列: > 0, > 0でLCP(, )の解が唯一 10.Completely-Q Matrices − 完全Q行列:部分行列がすべてQ行列 − 様々な行列クラスと包含関係を持つ 2020/5/16 線形相補性問題ゼミ② 47 3. Existence and Multiplicity