La meilleure approximation de \(\bs{f}\) sur l’espace \(\operatorname{Vect}(\Phi)\) est donné par \(\bs{f}_{opt}= \Phi\Phi^t\bs{f}\text{.}\) On reconnaît la matrice de la projection orthogonale sur \(\operatorname{Vect}(\Phi)\text{.}\) On écrit
\begin{equation}
\bs{f}=(\bs{f}-\bs{f}_{opt})+\bs{f}_{opt}=(I_d -\Phi\Phi^t)\bs{f} +\bs{f}_{opt}\tag{17.58}
\end{equation}
On considère notre approximation maintenant
\begin{equation*}
\bs{f}_a=\Pi_o\bs{f} =\Pi_o ((I_d -\Phi\Phi^t)\bs{f} +\bs{f}_{opt})
\end{equation*}
On remarque que
\begin{equation*}
\Pi_o \bs{f}_{opt}= \Phi(Z \Phi)^{-1}Z^t \Phi\Phi^t\bs{f} = \Phi(Z^t \Phi)^{-1}(Z^t \Phi)\Phi^t\bs{f}= \Phi\Phi^t \bs{f}
\end{equation*}
donc
\begin{equation}
\bs{f}_a= =\Pi_o (I_d -\Phi\Phi^t)\bs{f} +\bs{f}_{opt}\tag{17.59}
\end{equation}
\begin{equation*}
\bs{f}-\bs{f}_a= (I_d -\Pi_o)(I_d -\Phi\Phi^t)\bs{f}
\end{equation*}
On passe à la norme et on obtient que
\begin{equation*}
\Norm \bs{f}-\bs{f}_a\Norm_ 2 \le \Norm (I_d -\Pi_o)\Norm_2 \Norm(I_d -\Phi\Phi^t)\bs{f}\Norm_2
\end{equation*}
Dans
[1.5] on obtient l’identité:
\begin{equation*}
\Norm (I_d -\Pi_o)\Norm_2= \Norm \Pi_o\Norm_2
\end{equation*}
Et ensuite on peut majorer cela
\begin{equation*}
\Norm \Pi_o\Norm_2= \Norm \Phi(Z^t \Phi)^{-1}Z^t \Norm_2\le \Norm \Phi\Norm_2 \Norm (Z^t \Phi)^{-1}\Norm_2 \Norm Z^t \Norm_2
\end{equation*}
Puisque
\(\Phi\) et
\(Z\) (permutation des
\(K\) vecteurs de la base canonique de
\(\mathbb{R}^n\)) on obtient bien
(17.56).
Maintenant l’enjeu est de majorer le terme \(\Norm (Z^t \Phi)^{-1}\Norm_2\text{.}\) Ce terme dépend des indices sélectionnés par \(Z\) qui dépendent eux-mêmes de la base par l’algorithme de construction. On va introduire des notations:
\begin{equation*}
\bar{\Phi}=[\bs{\phi}_1,...,\bs{\phi}_{l-1}], \quad \Phi=[\bar{\Phi}, \bs{\phi}_l]
\end{equation*}
et
\begin{equation*}
\bar{Z}=[\bs{e}_{i_1},...,\bs{e}_{i_{l-1}}], \quad Z=[\bar{Z}, \bs{e}_{i_l}]
\end{equation*}
On considère maintenant \(M=Z^t \Phi\) et on va étudier la norme de l’inverse au fur et à mesure de l’algorithme de construction. A la première itération on a
\begin{equation*}
M=\bs{e}_{i_1}^t \bs{\phi}_1
\end{equation*}
Il est facile de voir que \(\Norm M^{-1}\Norm_2= \frac{1}{\mid \bs{e}_{i_1}^t \bs{\phi}_1\mid } = \Norm \bs{\Phi}_1\Norm_{\infty}^{-1}\text{.}\) Cela est dû au fait que l’indice \(i_1\) est justement choisi comme celui de la plus grande composante de \(\bs{\Phi}_1\text{.}\) On va maintenant procéder par récurrence et considère l’étape \(l\) de l’algorithme. On écrit la matrice de l’étape \(l\text{:}\)
\begin{equation*}
M =\begin{pmatrix} \bar{M} \amp \bar{Z}^t\bs{\phi}_l \\
\bs{e}_{i_{l}}^t \bar{\Phi} \amp \bs{e}_{i_{l}}^t\bs{\phi}_l \end{pmatrix}
\end{equation*}
avec \(\bar{M}= \bar{Z}^t\bar{\Phi}\) On va appliquer une décomposition (de type complément de Schur):
\begin{equation*}
M =\begin{pmatrix} \bar{M} \amp \bs{0}\\
\bs{e}_{i_{l}}^t\bar{\Phi} \amp r \end{pmatrix} \begin{pmatrix} I_d \amp \bar{M}^{-1}\bar{Z}^t\bs{\phi}_l \\
\bs{0} \amp 1 \end{pmatrix}
\end{equation*}
avec
\begin{equation*}
\bs{e}_{i_{l}}^t\bs{r}= \bs{e}_{i_{l}}^t(\bs{\phi}_l-\bar{\Phi}\bar{M}^{-1}\bar{Z}^t\bs{\phi}_l)
\end{equation*}
On reconnaît le résidu qu’on utilise pour déterminer les indices de l’algorithme
Algorithm 17.25.
\begin{equation*}
M^{-1} =\begin{pmatrix} I_d \amp -\bar{M}^{-1}\bar{Z}^t\bs{\phi}_l \\ \bs{0} \amp 1 \end{pmatrix}
\begin{pmatrix} \bar{M}^{-1} \amp \bs{0}
\\ -(\bs{e}_{i_{l}}^t\bs{r})^{-1}\bs{e}_{i_{l}}^t\bar{\Phi}\bar{M}^{-1} \amp (\bs{e}_{i_{l}}^t\bs{r})^{-1} \end{pmatrix}
\end{equation*}
\begin{equation*}
M^{-1} =\begin{pmatrix} I_d \amp -\bar{M}^{-1}\bar{Z}^t\bs{\phi}_l \\
\bs{0} \amp 1 \end{pmatrix} \begin{pmatrix} I_d \amp \bs{0}\\
-(\bs{e}_{i_{l}}^t\bs{r})^{-1}\bs{e}_{i_{l}}^t\bar{\Phi} \amp (\bs{e}_{i_{l}}^t\bs{r})^{-1} \end{pmatrix}
\begin{pmatrix} \bar{M}^{-1} \amp \bs{0}\\
\bs{0} \amp (\bs{e}_{i_{l}}^t\bs{r})^{-1} \end{pmatrix}
\end{equation*}
On peut réécrire cette décomposition sous la forme
\begin{equation}
M^{-1} =\left[ \begin{pmatrix} I_d \amp \bs{0}\\
\bs{0} \amp 0 \end{pmatrix} + (\bs{e}_{i_{l}}^t\bs{r})^{-1} \begin{pmatrix} \bar{M}^{-1}\bar{Z}^t\bs{\phi}_l
\\ -1\end{pmatrix}
\begin{pmatrix}
\bs{e}_{i_{l}}^t\bar{\Phi} \amp -1\end{pmatrix}
\right]
\begin{pmatrix} \bar{M}^{-1} \amp \bs{0}\\
\bs{0} \amp -1 \end{pmatrix} \tag{17.60}
\end{equation}
Puisque la matrice est orthogonale (donc elle et sont inverse sont de normes un) on a que
\begin{equation*}
\|\begin{pmatrix} \bar{M}^{-1}\bar{Z}^t\bs{\phi}_l
\\ -1\end{pmatrix} \begin{pmatrix} \bs{e}_{i_{l}}^t\bar{\Phi} \amp -1\end{pmatrix} \|_2 =
\| \begin{pmatrix} \bs{e}_{i_{l}}^t\bar{\Phi} \amp \bs{\Phi}_l\end{pmatrix} \begin{pmatrix}
\bar{M}^{-1}\bar{Z}^t\bs{\phi}_l \\ -1\end{pmatrix} \begin{pmatrix} \bs{e}_{i_{l}}^t\bar{\Phi} \amp -1\end{pmatrix} \|_2
\end{equation*}
Ce qui nous donne la majoration de
(17.60):
\begin{equation*}
\|M^{-1} \|_2 = \| \left(\begin{array}{l} I_d \amp \bs{0}\\
\bs{0} \amp 0 \end{array}\right)\|_2 + \mid (\bs{e}_{i_{l}}^t\bs{r})\mid^{-1}\| \bar{\Phi}
(\bar{M}^{-1}\bar{Z}^t\bs{\phi}_l)-\bs{\phi}_l \|_2 \|
\left(\begin{array}{ll} \bs{e}_{i_{l}}^t\bar{\Phi} \amp -1\end{array}\right)\|_2 \|
\left(\begin{array}{l} \bar{M}^{-1} \amp \bs{0}\\ \bs{0} \amp -1 \end{array}\right) \|_2
\end{equation*}
A partir de la on voit que
\begin{equation*}
\left(\begin{array}{l} \bs{e}_{i_{l}}^t\bar{\Phi} \amp -1\end{array}\right) \Norm_2\le \sqrt{2n}
\end{equation*}
car \(\bar{\Phi}\) est orthogonale et \(\bs{e}_{i_{l}}\) un vecteur de la base canonique. On remarque aussi \(\Norm \bar{\Phi} (\bar{M}^{-1}\bar{Z}^t\bs{\phi}_l)-\bs{\phi}_l\Norm_2=\Norm\bs{r}\Norm_{\infty}\) et que \(\mid (\bs{e}_{i_{l}}^t\bs{r})\mid=\Norm\bs{r}\Norm_{\infty}\) on a donc
\begin{equation*}
\Norm M^{-1} \Norm_2 = \Norm\begin{pmatrix} I_d \amp \bs{0}\\
\bs{0} \amp 0 \end{pmatrix}\Norm_2 + \sqrt{2n} \Norm \begin{pmatrix} \bar{M}^{-1} \amp \bs{0}\\
\bs{0} \amp -1 \end{pmatrix} \Norm_2
\end{equation*}
\begin{equation*}
\Norm M^{-1} \Norm_2 = (1 + \sqrt{2n}) \Norm \bar{M}^{-1} \Norm_2
\end{equation*}
En appliquant cette inégalité de façon itérative on obtient le résultat.