Implementazione del problema della approssimazione ai minimi quadrati
This presentation is the property of its rightful owner.
Sponsored Links
1 / 18

Implementazione del problema della approssimazione ai minimi quadrati PowerPoint PPT Presentation


  • 91 Views
  • Uploaded on
  • Presentation posted in: General

Corso di Analisi Numerica A.A. 2004-2005. Implementazione del problema della approssimazione ai minimi quadrati. Camillo Bosco. Definizione del problema (richiamo).

Download Presentation

Implementazione del problema della approssimazione ai minimi quadrati

An Image/Link below is provided (as is) to download presentation

Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author.While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server.


- - - - - - - - - - - - - - - - - - - - - - - - - - E N D - - - - - - - - - - - - - - - - - - - - - - - - - -

Presentation Transcript


Implementazione del problema della approssimazione ai minimi quadrati

Corso di Analisi Numerica A.A. 2004-2005

Implementazione del problema della approssimazione ai minimi quadrati

Camillo Bosco


Definizione del problema richiamo

Definizione del problema (richiamo)

CASO DISCRETO: siano dati m punti (x1,y1),…,(xm,ym). Si vuole determinare un polinomio p*(x) appartenente a Pn, con m>n ed m,n appartenenti a N, tale che:

risulti minima rispetto ai coefficienti del polinomio. I valori w1, . . . , wm sono delle costanti positive dette pesi.

A scopo didattico tali costanti assumono tutte valore 1 (peso uniforme).


Fitting lineare una istanza del problema

Fitting Lineare: una istanza del problema

Nel caso in cui n=1 vogliamo determinare il polinomio di primo grado p(x)=ax+b (geometricamente una retta) che costituisce la migliore approssimazione ai minimi quadrati. Vogliamo cioè, noti m punti (xi,yi) i=1…m trovare i valori di a e b che minimizzano:

Come minimizzare tale funzione ? Calcolando le derivate prime di F rispetto ad a e rispetto a b e ponendole uguali a zero.

Si ottiene così un sistema di due equazioni in due incognite che risolto consente di esprimere a e b (le incognite !) in funzione delle coordinate degli n punti.


Le soluzioni del sistema

Le soluzioni del sistema


Esempio 1 fitting lineare m

Esempio 1 : fitting_lineare.m


Ricordiamo la teoria

Ricordiamo la teoria !

Risolvere il problema discreto ai minimi quadrati equivale a determinare la soluzione di un sistema lineare sovradeterminato (m>n) ottenuto calcolando i valori p*(xi).

Qualora tale sistema Ax=b non abbia soluzione si determina il vettore soluzione

Risolvere il problema discreto ai minimi quadrati equivale a determinare la soluzione di un sistema lineare sovradeterminato (m>n) ottenuto calcolando i valori p*(xi).

Qualora tale sistema Ax=b non abbia soluzione si determina il vettore soluzione

:

Tale vettore, che minimizza la somma dei quadrati delle componenti del vettore resto R = Ax-b, è soluzione del sistema:

ATAx = ATb

Il problema viene quindi ricondotto alla risoluzione di un sistema lineare “classico”


Ripassiamo il metodo di jacobi

Ripassiamo il metodo di Jacobi !

E’ un metodo iterativo per la risoluzione di un sistema lineare quadrato (m=n).

Al passo k+1-esimo le componenti del vettore soluzione sono così definite:

i=1…n

MATLAB risolve un sistema lineare utilizzando l’operatore \ nella forma x=A\b.

Tale operatore corrisponde alla funzione mldivide. Matlab utilizza un metodo diretto: il metodo di eliminazione di Gauss


Esempio 2 min quad m

Esempio 2 : min_quad.m


Definizione del problema caso continuo

Definizione del problema (caso continuo)

CASO CONTINUO: sia w(x) una funzione positiva, continua ed integrabile in [a,b]. Si vuole determinare p*(x) appartenente a Pn in modo tale da minimizzare:

La funzione w(x) è detta funzione peso.

A scopo didattico si sceglie w(x)=1 cioè peso uniforme ed unitario.


Una istanza del problema

Una istanza del problema

Nel caso in cui w(x)=1 e consideriamo lo spazio V=C[a,b], ovvero lo spazio delle funzioni continue in [a,b], vogliamo trovare i coefficienti a0,…,an del polinomio p*(x) che approssima f appartenente a V.

Dobbiamo minimizzare:

Come minimizzare tale funzione ? Calcolando le derivate prime di F rispetto ai valori a0,…,an e ponendole uguali a zero. Otteniamo il sistema:


Esempio 3 min quad continuo1 m

Esempio 3 : min_quad_continuo1.m

In tal caso [a,b] = [0,1] il sistema diventa:

PROBLEMA:

La matrice dei coefficienti di tale sistema è:

i,j= 0…n

Si tratta della matrice di Hilbert. E’ una matrice malcondizionata !


Soluzione

Soluzione !

Per evitare di ottenere una matrice malcondizionata e difficilmente invertibile si sceglie una base differente da quella canonica in Pn.

L’insieme S={1,x,x2,…,xn}, base canonica di Pn, è costituito da polinomi non ortogonali rispetto a nessun prodotto interno.

Vogliamo trasformare la base canonica in una famiglia di polinomi ortogonali.

Il procedimento di ortogonalizzazione di Gram-Schmidt ci consente di generare due successioni di polinomi:


Ortogonalizzazione di gram schmidt

Ortogonalizzazione di Gram-Schmidt


Le due successioni

Le due successioni

La successione

è costituita da polinomi ortogonali.

Pertanto a norma di definizione:

La successione

è costituita da polinomi ortonormali.

Quindi:

Scegliendo tali successioni la matrice del sistema di equazioni è diagonale, quindi non più malcondizionata !


Esempio 4 min quad continuo2 m

Esempio 4 : min_quad_continuo2.m

Il polinomio di migliore approssimazione ai minimi quadrati nel caso continuo è calcolato come segue:

1) Si genera l’insieme

utilizzando il procedimento

di ortogonalizzazione di Gram-Schmidt

2) Si calcolano i coefficienti generalizzati di Fourier:

j= 0…n

3) Si costruisce il polinomio di approssimazione:


Teoria dei polinomi ortogonali

Teoria dei polinomi ortogonali

  • -Esistono delle “famiglie” di polinomi ortogonali utilizzate in diversi ambiti della analisi numerica.

  • Ciascuna famiglia è caratterizzata da una proprietà principale: ciascun polinomio pn della famiglia è ortogonale a tutti i polinomi di grado minore o uguale a n.

  • Nel caso della approssimazione si osserva che, scegliendo w(x)=1 in [-1,1], si ottiene la famiglia dei polinomi di Legendre:

-Scegliendo invece w(x)=1/sqrt(1-x2) in [-1,1], si ottiene la famiglia dei polinomi di Chebichev:


Esempio 5 polinomilegendre m

Esempio 5 : polinomiLegendre.m

Genera i primi n polinomi di Legendre secondo la seguente ricorrenza: (Rif. Naldi-Pareschi-Russo pag. 262)

L0 (x)=1

L1 (x)=x

(n+1) Ln+1(x)=(2(n+1)-1)xLn(x)-nLn-1(x)


Esempio 6 polinomichebichev m

Esempio 6 : polinomiChebichev.m

Genera i primi n polinomi di Chebichev secondo la seguente ricorrenza:

T0 (x)=1

T1 (x)=x

Tn+1(x)=2xTn(x)-Tn-1(x)


  • Login