ラグランジュ未定乗数法の基本部分
提供: tknotebook
ラグランジュ未定乗数法の基本は意外と簡単なものです。
$${\bf a}\cdot{\bf b}=0 \label{eq12}$$
が任意のベクトル ${\bf b}$ で成り立つには ${\bf a}= {\bf 0}$ であることが必要です。
では、一次独立なベクトル群 ${\bf c_l} (l=1~K)$ に対し
$${\bf b}\cdot{\bf c_l}=0 (l=1\sim K) \label{eq3}$$
という制限の中で ${\bf b}$ が任意であるとき、${\bf a}$ はどのような値になり得るかを考えてみましょう。
${\bf b}$ がとり得るベクトルの集合は基底 ${\bf c_l}$が張る部分空間の直交補空間であることは定義上明らかです。 また、${\bf a}$ のとり得るベクトルの集合は ${\bf b}$ のとり得るベクトル集合の直交補空間であることは明らかです。
つまり、「直交補空間」の記事で書いたように、${\bf a}$のとり得るベクトル集合は ${\bf c_l}$ が張る部分空間と同じになるので、
$${\bf a}=\lambda_1{\bf c_1}+\lambda_2{\bf c_2}+\cdots+\lambda_K{\bf c_K} \label{eq4}$$
となるのです。この一次結合の結合係数が実はラグランジュの未定乗数になるのです。
次ページ 条件付停留値問題 へ