ラグランジュの未定乗数法｜直感的に当たり前になる考え方

高校数学で学ぶように，微分可能な１変数関数$f$に対しては，方程式$\displaystyle\od{f}{x}(x)=0$を解けば，$f$が極値をもつ$x$の候補が得られるのでした．

これは２変数関数になっても同様で，$f(x,y)=5x^2+5y^2+6xy-2$のような微分可能な２変数関数$f$に対しては，方程式

$\begin{align*}\pd{f}{x}(x,y)=\pd{f}{y}(x,y)=0\end{align*}$

を解けば，$f$が極値をとる点$(x,y)$の候補が得られます．しかし，この問題が次のようになると，そう簡単ではなくなります．

制約条件$y=x-3$上で$f(x,y)=5x^2+5y^2+6xy-2$で定まる２変数関数$f$が極値をとる点$(x,y)$の候補を求めよ．

つまり，$x$と$y$に制約条件（この問題では$y=x-3$）がある場合には，単純に$f$の偏導関数から極値の候補を求めることができません．

この問題では制約条件$y=x-3$が簡単なので$y$を消去して１変数に帰着させても解けますが，もっと複雑な制約条件ならそうもいきませんね．

そこで，曲線や直線上といった制約条件下での関数の極値を求めるための方法として，ラグランジュ(Lagrange)の未定乗数法があります．

この記事では

ラグランジュの未定乗数法の直感的な考え方
ラグランジュの未定乗数法の具体例

を説明します．

ラグランジュの未定乗数法の直感的な理解
1. 偏導関数
2. 極値をとる２つのパターン
ラグランジュの未定乗数法
ラグランジュの未定乗数法の具体例
1. 具体例１
2. 具体例２
３変数以上の場合のラグランジュの未定乗数法
1. 具体例
2. ラグランジュの未定乗数法の証明
参考文献
1. 解析入門
2. 微分積分学

ラグランジュの未定乗数法の直感的な理解

１変数関数の場合には，定義域があっても単純な微分で極値点を求めることができるので，ラグランジュの未定乗数法は必要ありません．

そのため，ラグランジュの未定乗数法が必要となるのは２変数以上の場合です．

偏導関数

関数$f$の$x$に関する偏導関数$\displaystyle\pd{f}{x}$によって，$y$を固定したときの$f$の$x$の増減を考えることができます．

つまり，$\displaystyle\od{f}{x}$によって，$x$軸に平行な向きの増減が分かります．

このように，偏導関数を考えることで軸に平行な方向の増減を考えることはできますが，軸に平行でない直線や曲線上での増減は単純に偏導関数を考えるだけでは分かりません．

これにより，制約条件のもとでは単に偏導関数を考えるだけでは都合が悪いわけですね．

極値をとる２つのパターン

具体的に，冒頭で書いた次の問題を考えましょう．

制約条件$y=x-3$上で$f(x,y)=5x^2+5y^2+6xy-2$で定まる２変数関数$f$が極値をとる点$(x,y)$の候補を求めよ．

$z=f(x,y)$とすると$x$と$y$を決めると$z$が決まり，この方程式のグラフは$xyz$空間上に描くことができます．

この問題では，$f(x,y)$は２次の係数が全て正の２次式なので，$z=f(x,y)$のグラフは下に凸な以下のような「お椀型」の曲面となりますね．

このグラフの「等高線」は以下のようになります．

$z=0,2,6,14$と$z$が大きくなるにつれて等高線が広がっているわけですね．

パターン１

こうみるとうまく$z=C$を取れば，等高線$f(x,y)=C$は制約条件$y=x-3$のグラフと接するようにできそうです．

もし等高線$f(x,y)=C$と$y=x-3$が点$(a,b)$で接するなら，下図のようになります．

さて，この等高線$f(x,y)=C$は$xy$平面を２つの領域に分割しており，

等高線$f(x,y)=C$の内部では$f(x,y)<C$
等高線$f(x,y)=C$の外部では$f(x,y)>C$

となっていますから，制約条件$y=x-3$上の点$(x,y)$は$f(x,y)\ge C$を満たし，$f(a,b)=C$だから，制約条件$y=x-3$のもとでの$f(x,y)$の最小値は$C$であることが分かりますね．

このように「制約条件$g(x,y)=0$のグラフ」と「$z=f(x,y)$の等高線」が接するような点$(a,b)$を見つけることができれば，この点$(a,b)$は極値となりえますね．

いま考えている問題では$g(x,y)=y-x+3$とすれば，制約条件は$g(x,y)=0$となりますね．

さて，制約条件$g(x)=0$のグラフと等高線$f(x,y)=C$が点$(a,b)$で接するなら

$g(x,y)=0$上の点$(a,b)$での法線ベクトル$\nabla g(a,b)=\bmat{\pd{g}{x}(a,b)\\\pd{g}{y}(a,b)}$
$f(x,y)=C$上の点$(a,b)$での法線ベクトル$\nabla f(a,b)=\bmat{\pd{f}{x}(a,b)\\\pd{f}{y}(a,b)}$

は平行となりますね．

このとき，($\nabla{g}\neq\m{0}$なら)ある$\mu\in\R$が存在して

$\begin{align*}\nabla{f}=\mu\nabla{g} \iff \bmat{\pd{f}{x}(a,b)\\\pd{f}{y}(a,b)}=\mu\bmat{\pd{g}{x}(a,b)\\\pd{g}{y}(a,b)}\end{align*}$

が成り立ちます．よって，この等式が成り立つとき，点$(a,b)$は極値となり得ます．

パターン２

今考えていた制約条件$y=x-3$は滑らかな曲線でしたが，制約条件によってはグラフが「尖る」ことがあります．

このような尖った点では接ベクトルを考えることができませんが，もしこのグラフの尖った点が等高線$f(x,y)=C$にタッチしてすぐに引き返す状況になっていれば極値をとりうるわけです．

のちにラグランジュの未定条数法の具体例を考えますが，そこでの例２がこのパターン２に相当します．

$g$が微分可能であるとすれば，制約条件$g(x,y)=0$のグラフが尖る可能性があるのは$g$の速度が$0$になるような場合です．つまり，$g(x,y)=0$上の点$(a,b)$が

$\begin{align*}\pd{g}{x}(a,b)=\pd{g}{y}(a,b)=0\end{align*}$

を満たしていれば，$g(x,y)=0$のグラフは点$(a,b)$で尖っている可能性がありますね．

つまり，このような$(a,b)$は極値の候補になるわけですね．

ラグランジュの未定乗数法

以上の考察をまとめた以下の定理がラグランジュの未定乗数法です．

[ラグランジュの未定乗数法（２変数の場合）]　関数$f,g:\R^2\to\R$は共に$C^1$級であるとし，束縛条件$g(x,y)=0$のグラフを$S$とする．

このとき，次の(1), (2)のいずれかを満たす点$(a,b)\in S$のみ$f$の$S$上の極値点となりうる．

$\displaystyle\pd{g}{x}(a,b)=\displaystyle\pd{g}{y}(a,b)=0$
$\bmat{\pd{f}{x}(a,b)\\\pd{f}{y}(a,b)}=\mu\bmat{\pd{g}{x}(a,b)\\\pd{g}{y}(a,b)}$かつ$g(a,b)=0$を満たす$\mu\in\R$が存在する．

ラグランジュの未定乗数法は$S$上の極値をもつための必要条件を述べているだけであり，(1)または(2)を満たしていても極値となるかどうかは分からないことに注意してください．

さて，このままでも何も間違いなはいのですが，このラグランジュの未定乗数法の(2)はラグランジュ関数と呼ばれる

$\begin{align*}\Phi(x,y,\lambda)=f(x,y)-\lambda g(x,y)\end{align*}$

を用いると，

$\begin{align*}\nabla_{x,y,\lambda}\Phi(x,y,\lambda) =&\bmat{\pd{\Phi}{x}(x,y,\lambda)\\\pd{\Phi}{y}(x,y,\lambda)\\\pd{\Phi}{\lambda}(x,y,\lambda)} \\=&\bmat{\pd{f}{x}(x,y)-\lambda \pd{g}{x}(x,y)\\\pd{f}{y}(x,y)-\lambda \pd{g}{y}(x,y)\\-g(x,y)}\end{align*}$

となるので，(2)は次のようにすっきり書き換えることができますね．

[ラグランジュの未定乗数法（２変数の場合）]　関数$f,g:\R^2\to\R$は共に$C^1$級であるとし，束縛条件$g(x,y)=0$のグラフを$S$とする．

このとき，次の(1), (2)のいずれかを満たす点$(a,b)\in S$のみ$f$の$S$上の極値点となりうる．

$\displaystyle\pd{g}{x}(a,b)=\displaystyle\pd{g}{y}(a,b)=0$
$\Phi(x,y,\lambda)=f(x,y)-\lambda g(x,y)$に対して，$\nabla_{x,y,\lambda}\Phi(a,b,\mu)=\m{0}$を満たす$\mu\in\R$が存在する

のちに２変数とは限らない一般の場合の証明を与えますが，２変数の場合の場合の証明も与えておきましょう．

証明を表示

点$(a,b)$が$f$の$S$上の極値点であるとし，$\bmat{\pd{g}{x}(a,b)\\\pd{g}{y}(a,b)}\neq\bmat{0\\0}$であるとし，条件２が成り立つこと示せばよい．

$\bmat{\pd{g}{x}(a,b)\\\pd{g}{y}(a,b)}\neq\bmat{0\\0}$が成り立つとき

$\pd{g}{x}(a,b)\neq0$の場合
$\pd{g}{y}(a,b)\neq0$の場合

がありうるが，どちらでも証明は同様なので$\pd{g}{x}(a,b)\neq0$の場合を考えても一般性を失わない．

ここで，$\mu\in\R$を

$\begin{align*}\mu:=\frac{\pd{f}{x}(a,b)}{\pd{g}{x}(a,b)}\end{align*}$

で定めると

$a,b\in S$より$g(a,b)=0$
$\mu$の定義より$\pd{f}{x}(a,b)-\mu\pd{g}{x}(a,b)=0$

が成り立つから，あとは$\pd{f}{y}(a,b)=\pd{g}{y}(a,b)$を示せばよい．

$\pd{g}{x}(a,b)\neq0$より陰関数定理が適用できる．すなわち

$(a,b)$の近傍$W\times V\subset \R^2$ $(W\subset\R,V\subset\R)$
$C^1$級関数$h:V\to W$

が存在して

$(x,y)\in W\times V$なら，$(x,y)\in S \iff x=h(y)$
$\pd{h}{y}(b)=-\frac{\pd{g}{y}(a,b)}{\pd{g}{x}(a,b)}$

をみたす．また，$F:V\to \R$を$F(y):=f(h(y))$で定めると

$(h(b),b)\in S$
$f$が$S$上の点$(a,b)\in S$で極値をとる

より，$F$は$V$上の点$b$で極値をもつから$\pd{F}{y}(b)=0$を満たす．よって，$\mu$の定義と併せると

$\begin{align*} \pd{f}{y}(a,b)-\mu\pd{g}{y}(a,b) =&\pd{f}{y}(a,b)-\frac{\pd{f}{x}(a,b)}{\pd{g}{x}(a,b)}\cdot\pd{g}{y}(a,b) \\=&\pd{f}{y}(a,b)+\pd{f}{x}(a,b)\pd{h}{y}(b) \\=&\pd{F}{y}(b)=0 \end{align*}$

だから$\pd{f}{y}(a,b)=\mu\pd{g}{y}(a,b)$が従う．

ラグランジュの未定乗数法の具体例

それでは，ラグランジュの未定乗数法の具体例な使い方をみましょう．

具体例１

関数$f$, $g$を

$f(x,y)=(x-1)^2+(y-1)^2$
$g(x,y)=x^2+y^2-4$

で定める．束縛条件$g(x,y)=0$のもとでの$f$の極値点の候補をラグランジュの未定乗数法により求めよ．

束縛条件$g(x,y)=0$のグラフ$S$は原点中心，半径$2$の円で，このグラフ$S$上の極値点$(a,b)$を求める．

(1) $\displaystyle\pd{g}{x}(x,y)=2x$, $\displaystyle\pd{g}{y}(x,y)=2y$なので

$\begin{align*}\pd{g}{x}(x,y)=\pd{g}{y}(x,y)=0\iff x=y=0\end{align*}$

であるが，$(0,0)\notin S$なので$\pd{g}{x}(a,b)=\pd{g}{y}(a,b)=0$となる$(a,b)\in S$は存在しない．

(2) $\Phi(x,y,\lambda)=f(x,y)-\lambda g(x,y)$とおくと

$\begin{align*}&\nabla_{x,y,\lambda}\Phi(x,y,\lambda)=\m{0} \\\iff&\bmat{2(x-1)-\lambda\cdot2x\\2(y-1)-\lambda\cdot2y\\-x^2-y^2+4}=\bmat{0\\0\\0} \\\iff&\bmat{(1-\lambda)x\\(1-\lambda)y\\x^2+y^2}=\bmat{1\\1\\4}\end{align*}$

であり，この連立方程式の解$(x,y,\lambda)=(a,b,\mu)$が存在すれば点$(a,b)$が極値点の候補となる．

第$3$成分の両辺を$(1-\lambda)^2$倍して，$(1-\lambda)x=1$と$(1-\lambda)y=1$を代入することにより

$\begin{align*}&(1-\lambda)^2x^2+(1-\lambda)^2y^2=4(1-\lambda)^2 \\\iff&1^2+1^2=4(1-\lambda)^2 \\\iff&\lambda=1\mp\frac{1}{\sqrt{2}}\end{align*}$

であり，それぞれの$\lambda$を$(1-\lambda)x=1$と$(1-\lambda)y=1$に代入して，複号同順で

$\begin{align*}(x,y)=\bra{\pm\sqrt{2},\pm\sqrt{2}}\end{align*}$

となって，$\nabla_{x,y,\lambda}\Phi(x,y,\lambda)=\m{0}$の解が求まった（よって，存在した）．

(1), (2)より，極値点の候補$\bra{\pm\sqrt{2},\pm\sqrt{2}}$が得られた．

具体例２

関数$f$, $g$を

$f(x,y)=(x-1)^2+y^3$
$g(x,y)=x^2-y^3$

で定める．束縛条件$g(x,y)=0$のもとでの$f$の極値点の候補をラグランジュの未定乗数法により求めよ．

束縛条件$g(x,y)=0$のグラフ$S$は下図のようになっており，$S$上の極値点$(a,b)$を求めましょう．

(1) $\pd{g}{x}(x,y)=2x$, $\pd{g}{y}(x,y)=-3y$なので

$\begin{align*}\pd{g}{x}(x,y)=\pd{g}{y}(x,y)=0\iff x=y=0\end{align*}$

であり，$(0,0)\in S$なので$(0,0)$は極値点の候補である．

(2) $\Phi(x,y,\lambda)=f(x,y)-\lambda g(x,y)$とおくと

$\begin{align*}&\nabla_{x,y,\lambda}\Phi(x,y,\lambda)=\m{0} \\\iff&\bmat{2(x-1)-\lambda\cdot2x\\3y^2-\lambda\cdot(-3)y^2\\-x^2+y^3}=\bmat{0\\0\\0} \\\iff&\bmat{(1-\lambda)x\\(1+\lambda)y^2\\x^2-y^3} =\bmat{1\\0\\0}\end{align*}$

であり，この連立方程式の解$(x,y,\lambda)=(a,b,\mu)$が存在すれば点$(a,b)$が極値点の候補となる．

第２成分より$\lambda=-1$または$y=0$が成り立つ．

もし$y=0$なら，第３成分から$x=0$となるが，これは第１成分に矛盾するから$y\neq0$である．

また，$\lambda=-1$なら，第１成分から$x=\frac{1}{2}$，さらに第３成分から$y=\frac{1}{\sqrt[3]{4}}$となって，$\nabla_{x,y,\lambda}\Phi(x,y,\lambda)=\m{0}$の解が求まった（よって，存在した）．

(1), (2)より，極値点の候補$(0,0)$, $\bra{\dfrac{1}{2},\dfrac{1}{\sqrt[3]{4}}}$が得られた．

３変数以上の場合のラグランジュの未定乗数法

２変数の場合のラグランジュの未定乗数法を理解できていれば，以下の一般の$N$変数の場合も同様に理解できます．

[ラグランジュの未定乗数法]　関数$f,g_1,\dots,g_k:\R^N\to\R$は全て$C^1$級であるとし，束縛条件$g_1(\m{x})=\dots=g_k(\m{x})=0$のグラフを$S$とする．

このとき，次の(1), (2)のいずれかを満たす点$\m{a}\in S$のみ$f$の$S$上の極値点となりうる．

$\rank{\bmat{\pd{g_1}{x_1}(\m{a})&\dots&\pd{g_1}{x_N}(\m{a})\\\vdots&\ddots&\vdots\\\pd{g_k}{x_1}(\m{a})&\dots&\pd{g_k}{x_N}(\m{a})}}<k$
$\Phi(\m{x},\m{\lambda})=f(\m{x})-\m{\lambda}\cdot\m{g}(\m{x})$で定まる$\Phi:\R^N\times\R^k\to\R$に対して，$\nabla_{\m{x},\m{\lambda}}{\Phi}(\m{a},\m{\mu})=\m{0}$となる$\m{\mu}\in\R^k$が存在する．

ただし，$\m{\lambda}=\bmat{\lambda_1\\\vdots\\\lambda_k}$, $\m{g}=\bmat{g_1\\\vdots\\g_k}$であり，$\m{\lambda}\cdot\m{g}(\m{x})$は$\m{\lambda}$と$\m{g}(\m{x})$の通常の内積である．

具体例

$\m{x}=\bmat{x_1\\x_2\\x_3}$とし，関数$g_1,g_2:\R^3\to\R$を

$\begin{align*}\m{g}(\m{x}) :=\bmat{g_1(\m{x})\\g_2(\m{x})} :=\bmat{x_1+x_2\\{x_1}^2+{x_2}^2-{x_3}^2}\end{align*}$

で定め，束縛条件$g_1(\m{x})=g_2(\m{x})=0$の場合を考えます（$N=3$, $k=2$の場合）．

(1)

$\begin{align*}&\rank\bmat{\pd{g_1}{x_1}(\m{x})&\pd{g_1}{x_2}(\m{x})&\pd{g_1}{x_3}(\m{x})\\\pd{g_2}{x_1}(\m{x})&\pd{g_2}{x_2}(\m{x})&\pd{g_2}{x_3}(\m{x})} =\rank\bmat{1&1&0\\2x_1&2x_2&-2x_3} \\=&\rank\bmat{1&1&0\\0&x_1-x_2&-x_3} =\begin{cases}1&(x_1=x_2,x_3=0)\\2&(\mrm{other})\end{cases}\end{align*}$

だから，$p\in\R$が存在して$\bmat{p\\p\\0}\in S$となれば，ラグランジュの未定乗数法の(1)が成り立ちます．

実際，$g_1(p,p,0)=2p$, $g_2(p,p,0)=2p^2$より$p=0$で$\bmat{p\\p\\0}\in S$となるので，点$\bmat{p\\p\\0}$でラグランジュの未定乗数法の(1)をみたし，極値点の候補となります．

(2)　関数$\Phi:\R^3\times\R^2\to\R$を

$\begin{align*}\Phi(\m{x},\m{\lambda}) =&f(\m{x})-\m{\lambda}\cdot\m{g}(\m{x}) \\\bigl(=&f(\m{x})-\lambda_1g_1(\m{x})-\lambda_2g_2(\m{x})\bigr)\end{align*}$

で定めます．このとき，

$\begin{align*}&\pd{\Phi}{x_1}(\m{x},\m{\lambda}) =\pd{\Phi}{x_2}(\m{x},\m{\lambda}) =\pd{\Phi}{x_3}(\m{x},\m{\lambda}) \\=&\pd{\Phi}{\lambda_1}(\m{x},\m{\lambda}) =\pd{\Phi}{\lambda_2}(\m{x},\m{\lambda})=0\end{align*}$

の解$(\m{x},\m{\lambda})$が極値点の候補となります（いまは$f$を与えていないのでここまで）．

ラグランジュの未定乗数法の証明

それではラグランジュの未定乗数法を証明します．

[ラグランジュの未定乗数法（再掲）]　関数$f,g_1,\dots,g_k:\R^N\to\R$は全て$C^1$級であるとし，束縛条件$g_1(\m{x})=\dots=g_k(\m{x})=0$のグラフを$S$とする．

このとき，次の(1), (2)のいずれかを満たす点$\m{a}\in S$のみ$f$の$S$上の極値点となりうる．

$\rank\brc{\displaystyle\pd{\m{g}}{x_1}(\m{a}),\dots,\pd{\m{g}}{x_N}(\m{a})}<k$
$\Phi(\m{x},\m{\lambda})=f(\m{x})-\m{\lambda}\cdot\m{g}(\m{x})$で定まる$\Phi:\R^N\times\R^k\to\R$に対して，$\nabla_{\m{x},\m{\lambda}}{\Phi}(\m{a},\m{\mu})=\m{0}$となる$\m{\mu}\in\R^k$が存在する．

ただし，$\m{\lambda}=\bmat{\lambda_1\\\vdots\\\lambda_k}$, $\m{g}=\bmat{g_1\\\vdots\\g_k}$であり，$\cdot$は標準内積を表す．

条件(1)の行列は先ほどと少し違うように見えるかも知れませんが，任意の$i=1,\dots,N$に対して

$\begin{align*}\pd{\m{g}}{x_i}(\m{x}) =\pd{}{x_i}\bmat{g_1(\m{x})\\\vdots\\g_k(\m{x})} =\bmat{\pd{g_1}{x_i}(\m{x})\\\vdots\\\pd{g_k}{x_i}(\m{x})}\end{align*}$

なので，さっきと同じ行列であることが分かりますね．

点$\m{a}$が$f$の$S$上の極値点であるとし，$\rank{\brc{\displaystyle\pd{\m{g}}{x_1}(\m{a}),\dots,\pd{\m{g}}{x_N}(\m{a})}}=k$であるとする．

このとき$k\le N$であり，また$\rank{\displaystyle\brc{\pd{\m{g}}{x_1}(\m{a}),\dots,\pd{\m{g}}{x_k}(\m{a})}}=k$としても一般性を失わない．

ここで，$\m{\mu}\in\R^k$と$\Phi:\R^N\times\R^k\to\R$を

$\begin{align*} &\m{\mu}^T :=\brc{\pd{f}{x_1}(\m{a}),\dots,\pd{f}{x_k}(\m{a})}\brc{\pd{\m{g}}{x_1}(\m{a}),\dots,\pd{\m{g}}{x_k}(\m{a})}^{-1}\\ &\bra{\begin{aligned} \iff&\m{\mu}^T\brc{\pd{\m{g}}{x_1}(\m{a}),\dots,\pd{\m{g}}{x_k}(\m{a})}=\brc{\pd{f}{x_1}(\m{a}),\dots,\pd{f}{x_k}(\m{a})} \\\iff&\brc{\m{\mu}^{T}\pd{\m{g}}{x_1}(\m{a}),\dots,\m{\mu}^{T}\pd{\m{g}}{x_k}(\m{a})}=\brc{\pd{f}{x_1}(\m{a}),\dots,\pd{f}{x_k}(\m{a})} \end{aligned}}, \\&\Phi(\m{x},\m{\lambda}):=f(\m{x})-\m{\lambda}\m{g}(\m{x}) \end{align*}$

で定めると，$\nabla_{\m{x},\m{\lambda}}{\Phi}(\m{a},\m{\mu})=\m{0}$が成り立つことを示せば良い．これを以下３ステップに分けて示す．

[ステップ１] $\displaystyle\pd{\Phi}{\lambda_i}(\m{a},\m{\mu})=0$ ($i=1,\dots,k$)を満たすことを示す．

$\m{a}\in S$より$g_i(\m{a})=0$ ($i=1,\dots,k$)なので

$\begin{align*}\pd{\Phi}{\lambda_i}(\m{a},\m{\mu})=-g_i(\m{a})=0\end{align*}$

が従う．

[ステップ２] $\displaystyle\pd{\Phi}{x_i}(\m{a},\m{\mu})=0$ ($i=1,\dots,k$)を満たすことを示す．

$\Phi$と$\m{\mu}$の定義から，任意の$i=1,\dots,k$に対して

$\begin{align*}\pd{\Phi}{x_i}(\m{a},\m{\mu}) =&\pd{f}{x_i}(\m{a})-\m{\mu}\cdot\pd{\m{g}}{x_i}(\m{a}) \\=&\pd{f}{x_i}(\m{a})-\m{\mu}^{T}\pd{\m{g}}{x_i}(\m{a}) \\=&\pd{f}{x_i}(\m{a})-\pd{f}{x_i}(\m{a}) =0\end{align*}$

が従う．

[ステップ３] $\displaystyle\pd{\Phi}{x_i}(\m{a},\m{\mu})=0$ ($i=k+1,\dots,N$)を満たすことを示す．

$\m{a}=(\m{a}_1,\m{a}_2)\in\R^k\times\R^{N-k}$とする．$\rank{\brc{\displaystyle\pd{\m{g}}{x_1}(\m{a}),\dots,\pd{\m{g}}{x_k}(\m{a})}}=k$より$\m{a}$の近傍で陰関数定理が適用できる．すなわち，

$\m{a}$の近傍$W\times V\subset \R^N$ $(W\subset\R^k,V\subset\R^{N-k})$
$C^1$級関数$\m{h}=\bmat{h_1\\\vdots\\h_k}:V\to W$

が存在して，任意の$\m{x}=(\m{x}_1,\m{x}_2)\in W\times V$は

$\begin{align*}\m{x}\in S \iff\m{g}(\m{x})=\m{0} \iff \m{x}_1=\m{h}(\m{x}_2)\end{align*}$

かつ

$\begin{align*}&\brc{\pd{\m{h}}{x_{k+1}}(\m{a}_2),\dots,\pd{\m{h}}{x_N}(\m{a}_2)} \\=&-\brc{\pd{\m{g}}{x_1}(\m{a}),\dots,\pd{\m{g}}{x_k}(\m{a})}^{-1}\brc{\pd{\m{g}}{x_{k+1}}(\m{a}),\dots,\pd{\m{g}}{x_N}(\m{a})}\end{align*}$

をみたす．$\m{\mu}$の定義と併せると

$\begin{align*}&\brc{\m{\mu}^{T}\pd{\m{g}}{x_{k+1}}(\m{a}),\dots,\m{\mu}^{T}\pd{\m{g}}{x_N}(\m{a})} =\m{\mu}^{T}\brc{\pd{\m{g}}{x_{k+1}}(\m{a}),\dots,\pd{\m{g}}{x_N}(\m{a})} \\=&\brc{\pd{f}{x_1}(\m{a}),\dots,\pd{f}{x_k}(\m{a})}\brc{\pd{\m{g}}{x_1}(\m{a}),\dots,\pd{\m{g}}{x_k}(\m{a})}^{-1}\brc{\pd{\m{g}}{x_{k+1}}(\m{a}),\dots,\pd{\m{g}}{x_N}(\m{a})} \\=&-\brc{\pd{f}{x_1}(\m{a}),\dots,\pd{f}{x_k}(\m{a})}\brc{\pd{\m{h}}{x_{k+1}}(\m{a}_2),\dots,\pd{\m{h}}{x_N}(\m{a}_2)}\end{align*}$

だから，任意の$i=k+1,\dots,N$に対して，

$\begin{align*}\m{\mu}^{T}\pd{\m{g}}{x_{i}}(\m{a}) =&-\brc{\pd{f}{x_1}(\m{a}),\dots,\pd{f}{x_k}(\m{a})}\pd{\m{h}}{x_{i}}(\m{a}_2) \\=&-\sum_{j=1}^{k}\pd{f}{x_j}(\m{a})\pd{h_i}{x_i}(\m{a}_2)\end{align*}$

となる．

また，$F:V\to \R$を

$\begin{align*}F(\m{x}_2):=f(h_1(\m{x}_2),\dots,h_k(\m{x}_2),\m{x}_2)\end{align*}$

で定める．このとき，$(h_1(\m{x}_2),\dots,h_k(\m{x}_2),\m{x}_2) \in S$であり，$f$が$S$上の点$\m{a}$で極値をとるという仮定より，$F$は$V$上の点$\m{a}_2$で極値をもつから，$\displaystyle\pd{F}{x_{k+1}}(\m{a}_2)=\dots=\pd{F}{x_N}(\m{a}_2)=0$を満たす．

よって，任意の$i=k+1,\dots,N$に対して，

$\begin{align*}\pd{\Phi}{x_i}(\m{a},\m{\mu}) =&\pd{f}{x_i}(\m{a})-\m{\mu}\cdot\pd{\m{g}}{x_{i}}(\m{a}) =\pd{f}{x_i}(\m{a})-\m{\mu}^{T}\pd{\m{g}}{x_{i}}(\m{a}) \\=&\pd{f}{x_i}(\m{a})+\sum_{j=1}^{k}\pd{f}{x_j}(\m{a})\pd{h_i}{x_i}(\m{a}_2) =\pd{F}{x_i}(\m{a}_2)=0\end{align*}$