On commence par écrire le problème sous forme matrice et on calcul le Lagrangien
\begin{align*}
\mathcal{L}(Z) \amp=
\sum_{i=1}^n \left\| z_i - \sum_{j\neq i} w_{ij} z_j \right\|^2 + \Lambda
:\left(\frac{1}{n} Z Z^T - \text{Id}\right) + (Z \mathrm{1})^T \mu \\
\amp = tr((Z - Z W^T)(Z - Z W^T)^T) +
\Lambda :\left(\frac{1}{n} Z Z^T - \text{Id}\right) + \mathrm{1}^T Z^T \mu\\
\amp = tr(Z M Z^T) + \Lambda :\left(\frac{1}{n} Z Z^T - \text{Id}\right)+
\mathrm{1}^T Z^T \mu
\end{align*}
avec \(\Lambda\) symétrique, \(M = (\text{Id}-W^T) (\text{Id}-W) \in M_n(\mathbb{R})\text{,}\) symétrique positive. Maintenant on va écrire les conditions d’optimalité:
\begin{equation*}
Z M = \frac{1}{n} \Lambda Z + \mu \mathrm{1}^T,\quad \frac{1}{n} Z Z^T = \text{Id}
\end{equation*}
En multipliant à droite par \(1\) et en utilisant les relations \((\text{Id}-W)\mathrm{1} = 0\) et \(Z\mathrm{1}= 0\text{,}\) on montre que \(\mu = 0\text{.}\) On a donc:
\begin{equation*}
Z M = \frac{1}{n} \Lambda Z, \quad \frac{1}{n} Z Z^T = \text{Id}
\end{equation*}
Notons que si \((Z, \Lambda)\) est solution alors \((UZ, U \Lambda U^T)\) est encore solution pour tout \(U \in U_m(\mathbb{R})\text{.}\) Quitte à considérer \(U\) (??) , on peut donc supposer \(\Lambda\) diagonale. Alors les \(z_i\) sont des vecteurs propres associés à \(M\) et \(\Lambda\) est composée de valeurs de propres \((\lambda_i)\) de \(M\text{.}\) Nous avons \(Z M Z^T = \Lambda\) et donc
\begin{equation*}
\mathcal{L}(Z) = tr(\Lambda) = \sum_i \lambda_i.
\end{equation*}
Si l’on veut minimiser \(\mathcal{L}(Z)\text{,}\) il faut donc considérer les vecteurs propres associés aux valeurs propres les plus petites.
