Teorema della proiezione di Hilbert: Sbloccare le dimensioni nella visione artificiale

Di Fouad Sabry

Cos'è il teorema della proiezione di Hilbert

In matematica, il teorema della proiezione di Hilbert è un famoso risultato dell'analisi convessa che dice che per ogni vettore  in uno spazio di Hilbert  e ogni convesso chiuso non vuoto  esiste un vettore unico  per il quale  è minimizzato sui vettori ; cioè tale che  per ogni

Come trarrai vantaggio

(I) Approfondimenti e convalide sui seguenti argomenti:

Capitolo 1: Hilbert Teorema della proiezione

Capitolo 2: Spazio di Banach

Capitolo 3: Spazio del prodotto interno

Capitolo 4: Teorema della rappresentazione di Riesz

Capitolo 5: Operatore autoaggiunto

Capitolo 6: Classe traccia

Capitolo 7: Operatore (fisica)

Capitolo 8: Spazio di Hilbert

Capitolo 9: Norma (matematica)

Capitolo 10: Analisi convessa

(II) Rispondere alle principali domande del pubblico sul teorema della proiezione di Hilbert.

(III) Mondo reale esempi di utilizzo del teorema della proiezione di Hilbert in molti campi.

A chi è rivolto questo libro

Professionisti, studenti universitari e laureati, appassionati, hobbisti e coloro che vogliono andare oltre le conoscenze o le informazioni di base per qualsiasi tipo di teorema della proiezione di Hilbert.

 

 

• Lingua: Italiano
• Editore: Un Miliardo Di Ben Informato [Italian]
• Data di uscita: 5 mag 2024

Anteprima del libro

Capitolo 1: Teorema di proiezione di Hilbert

In matematica, il teorema di proiezione di Hilbert è un famoso risultato dell'analisi convessa che dice che per ogni vettore x in uno spazio di Hilbert H e per ogni convesso chiuso non vuoto {\displaystyle C\subseteq H,} esiste un unico vettore {\displaystyle m\in C} per il quale {\displaystyle \|c-x\|} è minimizzato sui vettori c\in C ; cioè, tale che {\displaystyle \|m-x\|\leq \|c-x\|} per ogni {\displaystyle c\in C.}

Considerando la condizione del primo ordine del problema di ottimizzazione, si può ottenere una certa comprensione del teorema.

Si consideri uno spazio di Hilbert reale di dimensione finita H con un sottospazio C e un punto x. Se {\displaystyle m\in C} è un minimizzatore o un punto minimo della funzione {\displaystyle N:C\to \mathbb {R} } definita da {\displaystyle N(c):=\|c-x\|} (che è uguale al punto minimo di {\displaystyle c\mapsto \|c-x\|^{2}} ), allora la derivata deve essere zero a m.

Notazione per derivate matriciali

{\displaystyle {\begin{aligned}\partial \lVert x-c\rVert ^{2}&=\partial \langle c-x,c-x\rangle \\&=2\langle c-x,\partial c\rangle \end{aligned}}}

Poiché {\displaystyle \partial c} è un vettore in C che rappresenta una direzione tangente arbitraria, ne consegue che {\displaystyle m-x} deve essere ortogonale ad ogni vettore in {\displaystyle C.}

Teorema di proiezione di Hilbert — Per ogni vettore x in uno spazio di Hilbert e per H ogni convesso chiuso non vuoto {\displaystyle C\subseteq H,} esiste un unico vettore {\displaystyle m\in C} per il quale {\displaystyle \lVert x-m\rVert } è uguale a {\displaystyle \delta :=\inf _{c\in C}\|x-c\|.}

Se il sottoinsieme chiuso C è anche un sottospazio vettoriale di H allora questo minimizzatore m è l'elemento univoco in C tale che {\displaystyle m-x} è ortogonale a {\displaystyle C.}

Prova dell'esistenza di un punto minimo y

Sia {\displaystyle \delta :=\inf _{c\in C}\|x-c\|} la distanza tra x e una successione tale {\displaystyle C,} {\displaystyle \left(c_{n}\right)_{n=1}^{\infty }} che la distanza al quadrato tra C e x sia minore o uguale a c_{n} Siano {\displaystyle \delta ^{2}+1/n.} n e siano due numeri interi, allora vale l'uguaglianza successiva: m

{\displaystyle \left\|c_{n}-c_{m}\right\|^{2}=\left\|c_{n}-x\right\|^{2}+\left\|c_{m}-x\right\|^{2}-2\left\langle c_{n}-x\,,\,c_{m}-x\right\rangle }

e

{\displaystyle 4\left\|{\frac {c_{n}+c_{m}}{2}}-x\right\|^{2}=\left\|c_{n}-x\right\|^{2}+\left\|c_{m}-x\right\|^{2}+2\left\langle c_{n}-x\,,\,c_{m}-x\right\rangle }

Pertanto

{\displaystyle \left\|c_{n}-c_{m}\right\|^{2}=2\left\|c_{n}-x\right\|^{2}+2\left\|c_{m}-x\right\|^{2}-4\left\|{\frac {c_{n}+c_{m}}{2}}-x\right\|^{2}}

(Questa equazione è la stessa della formula {\displaystyle a^{2}=2b^{2}+2c^{2}-4M_{a}^{2}} per la lunghezza M_a di una mediana in un triangolo con lati di lunghezza a, b, e c, dove in particolare, i vertici del triangolo sono {\displaystyle x,c_{m},c_{n}} ).

Dando un limite superiore ai primi due termini dell'uguaglianza e notando che il mezzo di c_{n} e c_{m} appartengono a C e ha quindi una distanza maggiore o uguale a \delta da x, esso segue che:

{\displaystyle \|c_{n}-c_{m}\|^{2}\;\leq \;2\left(\delta ^{2}+{\frac {1}{n}}\right)+2\left(\delta ^{2}+{\frac {1}{m}}\right)-4\delta ^{2}=2\left({\frac {1}{n}}+{\frac {1}{m}}\right)}

L'ultima disuguaglianza dimostra che {\displaystyle \left(c_{n}\right)_{n=1}^{\infty }} si tratta di una successione di Cauchy.

Poiché C è completa, la successione è quindi convergente ad un punto {\displaystyle m\in C,} la cui distanza da x è minima.

\blacksquare

Una prova unica m

Siano m_{1} m_{2} due punti minimi.

Allora:

{\displaystyle \|m_{2}-m_{1}\|^{2}=2\|m_{1}-x\|^{2}+2\|m_{2}-x\|^{2}-4\left\|{\frac {m_{1}+m_{2}}{2}}-x\right\|^{2}}

Poiché {\displaystyle {\frac {m_{1}+m_{2}}{2}}} appartiene a {\displaystyle C,} noi abbiamo {\displaystyle \left\|{\frac {m_{1}+m_{2}}{2}}-x\right\|^{2}\geq \delta ^{2}} e quindi

{\displaystyle \|m_{2}-m_{1}\|^{2}\leq 2\delta ^{2}+2\delta ^{2}-4\delta ^{2}=0.}

Da qui {\displaystyle m_{1}=m_{2},} l'unicità.

\blacksquare

Dimostrazione della caratterizzazione del punto minimo quando C è un sottospazio vettoriale chiuso

Supponiamo che C sia un sottospazio vettoriale chiuso di H. Deve essere mostrato che il minimizzatore m è l'elemento unico in C tale che {\displaystyle \langle m-x,c\rangle =0} per ogni {\displaystyle c\in C.}

Prova che la condizione è sufficiente: Sia {\displaystyle z\in C} tale che {\displaystyle \langle z-x,c\rangle =0} per ogni {\displaystyle c\in C.} Se c\in C allora {\displaystyle c-z\in C} e così

{\displaystyle \|c-x\|^{2}=\|(z-x)+(c-z)\|^{2}=\|z-x\|^{2}+\|c-z\|^{2}+2\langle z-x,c-z\rangle =\|z-x\|^{2}+\|c-z\|^{2}}

il che implica che {\displaystyle \|z-x\|^{2}\leq \|c-x\|^{2}.} Perché c\in C era arbitrario, questo dimostra che {\displaystyle \|z-x\|=\inf _{c\in C}\|c-x\|} e quindi z è un punto minimo.

Prova che la condizione è necessaria: Sia {\displaystyle m\in C} il punto minimo.

Lascia c\in C e {\displaystyle t\in \mathbb {R} .} Perché {\displaystyle m+tc\in C,} la minimalità delle m garanzie che

{\displaystyle \|m-x\|\leq \|(m+tc)-x\|.}

Così

{\displaystyle \|(m+tc)-x\|^{2}-\|m-x\|^{2}=2t\langle m-x,c\rangle +t^{2}\|c\|^{2}}

è sempre non negativo e {\displaystyle \langle m-x,c\rangle } deve essere un numero reale.

Se {\displaystyle \langle m-x,c\rangle \neq 0} poi la mappa

{\displaystyle f(t):=2t\langle m-x,c\rangle +t^{2}\|c\|^{2}}

ha un minimo a {\displaystyle t_{0}:=-{\frac {\langle m-x,c\rangle }{\|c\|^{2}}}} e inoltre, {\displaystyle f\left(t_{0}\right)<0,} il che è una contraddizione.

Così {\displaystyle \langle m-x,c\rangle =0.} \blacksquare

È sufficiente dimostrare il teorema nel caso di x=0 perché il caso generale segue dall'enunciato seguente sostituendo C con {\displaystyle C-x.}

Teorema di proiezione di Hilbert (caso x=0 ) — Per ogni sottoinsieme convesso chiuso non vuoto {\displaystyle C\subseteq H} di uno spazio di Hilbert H, esiste un vettore unico {\displaystyle m\in C} tale che {\displaystyle \inf _{c\in C}\|c\|=\|m\|.}

Inoltre, lasciando {\displaystyle d:=\inf _{c\in C}\|c\|,} if {\displaystyle \left(c_{n}\right)_{n=1}^{\infty }} è una qualsiasi successione in C tale che {\displaystyle \lim _{n\to \infty }\left\|c_{n}\right\|=d} in \mathbb {R} allora {\displaystyle \lim _{n\to \infty }c_{n}=m} in H.

Prova

Sia C come descritto in questo teorema e sia

{\displaystyle d:=\inf _{c\in C}\|c\|.}

Questo teorema deriva dai lemmi successivi.

Lemma 1 — Se {\displaystyle c_{\bullet }:=\left(c_{n}\right)_{n=1}^{\infty }} è una successione tale C che {\displaystyle \lim _{n\to \infty }\left\|c_{n}\right\|=d} in \mathbb {R} allora ne esiste una tale c\in C che {\displaystyle \lim _{n\to \infty }c_{n}=c} in H. Inoltre, {\displaystyle \|c\|=d.}

Lemma 2 — Esiste una sequenza {\displaystyle \left(c_{n}\right)_{n=1}^{\infty }} che soddisfi le ipotesi del Lemma 1.

Il Lemma 2 e il Lemma 1 insieme dimostrano che esiste qualcosa c\in C di tale che {\displaystyle \|c\|=d.} il Lemma 1 può essere usato per dimostrare l'unicità come segue.

Supponiamo {\displaystyle b\in C} che sia tale che {\displaystyle \|b\|=d} e denotano la successione

{\displaystyle b,c,b,c,b,c,\ldots }

per {\displaystyle \left(c_{n}\right)_{n=1}^{\infty }} modo che la sottosuccessione {\displaystyle \left(c_{2n}\right)_{n=1}^{\infty }} degli indici pari è la successione costante {\displaystyle c,c,c,\ldots } mentre la sottosuccessione {\displaystyle \left(c_{2n-1}\right)_{n=1}^{\infty }} degli indici dispari è la successione costante {\displaystyle b,b,b,\ldots .} Perché {\displaystyle \left\|c_{n}\right\|=d} per ogni {\displaystyle n\in \mathbb {N} ,} {\displaystyle \lim _{n\to \infty }\left\|c_{n}\right\|=\lim _{n\to \infty }d=d} in {\displaystyle \mathbb {R} ,} cui mostra che la {\displaystyle \left(c_{n}\right)_{n=1}^{\infty }} successione soddisfa le ipotesi del Lemma 1.

Il lemma 1 garantisce l'esistenza di alcuni x \in C tali che {\displaystyle \lim _{n\to \infty }c_{n}=x} in H. Because {\displaystyle \left(c_{n}\right)_{n=1}^{\infty }} convergono a x, così tutte le sue sottosuccessioni.

In particolare, la sottosuccessione {\displaystyle c,c,c,\ldots } converge a x, cui implica che x=c (poiché i limiti in H sono unici e anche questa sottosuccessione costante converge a c ).

Allo stesso modo, x=b perché la sottosuccessione {\displaystyle b,b,b,\ldots } converge ad entrambi x e {\displaystyle b.} So {\displaystyle b=c,} che dimostra il teorema.

\blacksquare

Proposizione — Se C è un sottospazio vettoriale chiuso di uno spazio di Hilbert H allora

{\displaystyle H=C\oplus C^{\bot }.}

Espressione come globale minimo

L'enunciato e la conclusione del teorema di proiezione di Hilbert possono essere scritti in termini di minimi globali delle funzioni elencate di seguito. Inoltre, la loro notazione verrà impiegata per semplificare frasi particolari.

Dato un sottoinsieme non vuoto {\displaystyle C\subseteq H} e alcuni {\displaystyle x\in H,} definiscono una funzione

{\displaystyle d_{C,x}:C\to [0,\infty )\quad {\text{ by }}c\mapsto \|x-c\|.}

Un punto minimo globale di {\displaystyle d_{C,x},} se ne esiste uno, è un qualsiasi punto m in {\displaystyle \,\operatorname {domain} d_{C,x}=C\,} tale che

{\displaystyle d_{C,x}(m)\,\leq \,d_{C,x}(c)\quad {\text{ for all }}c\in C,}

nel qual caso {\displaystyle d_{C,x}(m)=\|m-x\|} è uguale al valore minimo globale della funzione {\displaystyle d_{C,x},} che è:

{\displaystyle \inf _{c\in C}d_{C,x}(c)=\inf _{c\in C}\|x-c\|.}

Effetti di traslazione e ridimensionamento

Quando questo punto minimo globale m esiste ed è unico, allora denotalo in {\displaystyle \min(C,x);} modo esplicito, le proprietà di definizione di {\displaystyle \min(C,x)} (se esiste) sono:

{\displaystyle \min(C,x)\in C\quad {\text{ and }}\quad \left\|x-\min(C,x)\right\|\leq \|x-c\|\quad {\text{ for all }}c\in C.}

Il teorema di proiezione di Hilbert garantisce che questo unico punto minimo esista ogni volta che C è un sottoinsieme chiuso e convesso non vuoto di uno spazio di Hilbert.

Tuttavia, questo punto minimo può verificarsi anche in sottoinsiemi non convessi o aperti; per esempio, proprio come long is C è non-vuoto, se x \in C allora {\displaystyle \min(C,x)=x.}

Se {\displaystyle C\subseteq H} è un sottoinsieme non vuoto, s è uno scalare qualsiasi, e {\displaystyle x,x_{0}\in H} sono tutti vettori allora

{\displaystyle \,\min \left(sC+x_{0},sx+x_{0}\right)=s\min(C,x)+x_{0}}

che implica:

{\displaystyle {\begin{alignedat}{6}\min &(sC,sx)&&=s&&\min(C,x)\\\min &(-C,-x)&&=-&&\min(C,x)\\\end{alignedat}}}{\displaystyle {\begin{alignedat}{6}\min \left(C+x_{0},x+x_{0}\right)&=\min(C,x)+x_{0}\\\min \left(C-x_{0},x-x_{0}\right)&=\min(C,x)-x_{0}\\\end{alignedat}}}{\displaystyle {\begin{alignedat}{6}\min &(C,-x){}&&=\min(C+x,0)-x\\\min &(C,0)\;+\;x\;\;\;\;&&=\min(C+x,x)\\\min &(C-x,0){}&&=\min(C,x)-x\\\end{alignedat}}}

Esempi

Il seguente contro-esempio dimostra un isomorfismo lineare continuo {\displaystyle A:H\to H} per il quale

{\displaystyle \,\min(A(C),A(x))\neq A(\min(C,x)).}

Dotare {\displaystyle H:=\mathbb {R} ^{2}} con il prodotto scalare, sia {\displaystyle x_{0}:=(0,1),} e per ogni reale {\displaystyle s\in \mathbb {R} ,} sia {\displaystyle L_{s}:=\{(x,sx):x\in \mathbb {R} \}} la retta di pendenza s passante per l'origine, dove è facilmente verificabile che

{\displaystyle \min \left(L_{s},x_{0}\right)={\frac {s}{1+s^{2}}}(1,s).}

Scegli un numero reale r\neq 0 e definisci {\displaystyle A:\mathbb {R} ^{2}\to \mathbb {R} ^{2}} per {\displaystyle A(x,y):=(rx,y)} (quindi questa mappa scala la {\displaystyle x-} coordinata di r lasciando {\displaystyle y-} la coordinata invariata).

Allora {\displaystyle A:\mathbb {R} ^{2}\to \mathbb {R} ^{2}} è un operatore lineare continuo invertibile che soddisfa {\displaystyle A\left(L_{s}\right)=L_{s/r}} e {\displaystyle A\left(x_{0}\right)=x_{0},} tale che

{\displaystyle \,\min \left(A\left(L_{s}\right),A\left(x_{0}\right)\right)={\frac {s}{r^{2}+s^{2}}}(1,s)}

e

{\displaystyle A\left(\min \left(L_{s},x_{0}\right)\right)={\frac {s}{1+s^{2}}}\left(r,s\right).}

Di conseguenza, se {\displaystyle C:=L_{s}} con s\neq 0 e se {\displaystyle (r,s)\neq (\pm 1,1)} allora

{\displaystyle \,\min(A(C),A\left(x_{0}\right))\neq A\left(\min \left(C,x_{0}\right)\right).}

{Fine Capitolo 1}

Capitolo 2: Vedi anche Convessità in economia – Argomento significativo in economia Non-convessità (economia) – Violazioni delle ipotesi di convessità dell'economia elementare Elenco degli argomenti di convessità Werner Fenchel – Matematico tedesco Note ^ a b Rockafellar, R. Tyrrell (1997) [1970]. Analisi convessa. Princeton, NJ: Pressa dell'università di Princeton. ISBN 978-0-691-01586-6. ^ a b c Rockafellar & Wets 2009, pp. 1-28. ^ a b Zălinescu 2002, pp. 75-79. ^ Borwein, Jonathan; Lewis, Adrian (2006). Analisi convessa e ottimizzazione non lineare: teoria ed esempi (2 ed.). Springer. pp. 76-77. Codice ISBN 978-0-387-29570-1. ^ a b Boţ, Radu Ioan; Wanka, Gert; Grad, Sorin-Mihai (2009). Dualità nell'ottimizzazione vettoriale. Springer. Codice ISBN 978-3-642-02885-4. ^ Zălinescu 2002, pp. 106-113. ^ Csetnek, Ernö Robert (2010). Superare il fallimento delle classiche condizioni generalizzate di regolarità del punto interno nell'ottimizzazione convessa. Applicazioni della teoria della dualità agli ingrandimenti di operatori monotoni massimali. Logos Verlag Berlin GmbH. ISBN 978-3-8325-2503-3. ^ Borwein, Jonathan; Lewis, Adrian (2006). Analisi convessa e ottimizzazione non lineare: teoria ed esempi (2 ed.). Springer. Codice ISBN 978-0-387-29570-1. ^ Boyd, Stefano; Vandenberghe, Lieven (2004). Ottimizzazione convessa (PDF). Pressa dell'università di Cambridge. ISBN 978-0-521-83378-3. URL consultato il 3 ottobre 2011 ^ La conclusione è immediata se {\displaystyle X=\{0\}} assume il contrario. Correggi {\displaystyle x\in X.} Sostituendo f con la norma si ottiene {\displaystyle \partial f(x)=\left\{x^{*}\in X^{*}~:~\left\langle x^{*},x\right\rangle -\|x\|\geq \left\langle x^{*},z\right\rangle -\|z\|{ \text{ per tutti }}z\in X\right\}.} Se {\displaystyle x^{*}\in \partial f(x)} e r \geq 0 è reale, allora usando {\displaystyle z:=rx} si ottiene {\displaystyle \left\langle x^{*},x\right\rangle -\|x\|\geq \left\langle x^{*},rx\right\rangle -\|rx\|=r\left[\left\langle x^{*},x\right\rangle -\|x\|\right],} dove in particolare, prendendo {\displaystyle r:=2} si ottiene {\displaystyle x^{*}(x)\geq \|x\|} mentre si prende {\displaystyle r:={\frac {1}{2}}} dà {\displaystyle x^{*}(x)\leq \|x\|} e quindi {\displaystyle x^{*}(x)=\|x\|} ; Inoltre, se in aggiunta x\neq 0 allora perché {\displaystyle x^{*}\left({\frac {x}{\|x\|}} \right)=1,} Dalla definizione della norma duale segue che {\displaystyle \left\|x^{*}\right\|\geq 1.} Poiché {\displaystyle \partial f(x)\subseteq \left\{x^{*}\in X^{*}~:~x^{*}(x)=\|x\|\right\},} che è equivalente a {\displaystyle \partial f(x)=\partial f(x)\cap \left\{x^{*}\in X^{*}~:~x^{*}(x)=\|x\|\right\},} ne consegue che {\displaystyle \partial f(x)=\left\{x^{*}\in X^{*}~:~x^{*}(x)=\|x\|{ \text{ e }}\|z\|\geq \left\langle x^{*},z\right\rangle {\text{ for all }}z\in X\right\},} che implica {\displaystyle \left\|x^{*}\right\|\leq 1} per ogni {\displaystyle x^{*}\in \partial f(x).} Da questi fatti, si può ora giungere alla conclusione. ∎ Riferimenti Bauschke, Heinz H.; Combettes, Patrick L. (28 febbraio 2017). Analisi convessa e teoria degli operatori monotoni negli spazi di Hilbert. CMS Libri in Matematica. Springer Science & Business Media. Codice ISBN 978-3-319-48311-5. OCLC 1037059594. Boyd, Stefano; Vandenberghe, Lieven (8 marzo 2004). Ottimizzazione convessa. Serie di Cambridge in Matematica Statistica e Probabilistica. Cambridge, Regno Unito New York: Pressa dell'università di Cambridge. ISBN 978-0-521-83378-3. OCLC 53331084. Hiriart-Urruty, J.-B.; Lemaréchal, C. (2001). Fondamenti di analisi convessa. Berlino: Springer-Verlag. Codice ISBN 978-3-540-42205-1. Kusraev, A.G.; Kutateladze, Semen Samsonovich (1995). Subdifferenziali: teoria e applicazioni. Dordrecht: Editori accademici di Kluwer. Codice ISBN 978-94-011-0265-0. Rockafellar, R. Tyrrell; Bagnati, Roger J.-B. (26