Quadrados Mínimos

1. Quadrados Mínimos

2. Situação • Em diversas ciências com uma dimensão experimental, é necessário modelizar os fenômenos a partir de tabelas de dados experimentais. • A modelização consista em inúmeros casos em procurar a função que expressa melhor a relação entre os dados.

3. Problema • O objetivo do método de mínimos quadrados é determinar uma função, a partir de combinação linear de funções simples, que aproxima um conjunto de pontos. • Existem métodos polinomiais (aproximação com polinômio), mas elas não sempre fornecem aproximações aceitáveis. O método de mínimos quadrados permite estender as aproximações com funções não polinomiais.

4. Exemplo 1 Esse conjunto de pontos aparece como uma parabola.

5. Exemplo 2

6. Caso discreto • A partir de uma tabela de valores (discretas), que representam vários pontos de uma função teórica (f(x)), tentamos determinar uma função j(x) combinação linear de funções gi(x) (j(x)=a1g1(x)+...+angn(x)) de tal forma que o desvio de j - f seja mínimo para os valores da tabela. • O que significa mínimo nesse caso?

7. Caso contínuo • No caso contínuo, dada uma função f(x) contínua no intervalo [a,b] e escolhidas as funções g1(x), .., gn(x), o objetivo é determinar constantes a1, ..., an de tal forma que j(x)=a1g1(x)+...+angn(x) se aproxima ao maximo de f(x) no intervalo [a,b]. • O que significa aproximar nesse caso?

8. Método dos quadrados mínimos • Caso discreto • Considerando um conjunto de valores {(x1,f(x1)), ..., {(xm,f(xm))} e n (com n£m) funções gn(x), o objetivo é encontrar um conjunto de coeficientes a1, .., an de tal forma que a função j(x)=a1g1(x)+..+angn(x) se aproxima ao máximo de f(x). • O criterio para decidir da aproximação é minimizar a soma dos quadrados da diferencia entre as duas funções nos xi ou seja minimizar:

9. Método dos quadrados mínimos • Caso discreto • Minimizar é minimizar a função: • Para minimizar essa função F, devemos encontrar os pontos críticos da função, ou seja os valores (a1,...,an) tal que:

10. Método dos quadrados mínimos • Caso discreto Elemento de calculo: Para derivar, considerando os termos com ai:

11. Método dos quadrados mínimos • Caso discreto Elemento de calculo:

12. Método dos quadrados mínimos • Caso discreto • Com a condição: obtemos assim o sistema a resolver:

13. Método dos quadrados mínimos • Caso discreto • As equações desse sistema são chamadas equações normais. Ele pode ser escrito: • Onde e • A matriz desse sistema é simétrica.

14. Método dos quadrados mínimos • Caso discreto • Considerando os vetores e e o produto escalar de dois vetores: Os coeficientes aij podem ser escritos: e bi: Demontra-se que se as funções g1(x),...,gn(x) forem tais que os vetores: sejam linearmente independentes, o sistema admite uma solução única. Demonstra-se também que esta solução é o ponto em que a função F atinge seu valor mínimo.

15. Método dos quadrados mínimos • Caso discreto • Se os vetores tiverem a propriedade suplementar seguinte: , nesse caso os vetores são ortogonais entre si e a matriz A do sistema é diagonal. Exemplo de funções ortogonais: seria de Fourier (aproximação de funções periódicas), polinômios de Legendre, Gram, Chebyshev.

16. Método dos quadrados mínimos • Caso contínuo • Para aproximar uma função em um intervalo [a,b] com j uma combinação linear de funções (g1,...,gn) de coeficientes (a1,...,an), o método de quadrados mínimos propõe de minimizar a área entre as curvas das duas funções, ou seja minimizar:

17. Método dos quadrados mínimos • Caso contínuo • Aplicando o mesmo princípio que no caso discreto, trata-se de minimizar a função: • Obtemos um sistema de equações lineares: Aa=b, onde A=(aij), a=(a1,...,an) e b=(b1,...,bn). aij=<gi,gj> e bi=<f,gi> com

18. Método dos quadrados mínimos • Caso não linear • Existem casos que precisam ser aproximados por funções que não são resultados de combinação linear de funções simples. • Por exemplo, podemos precisar de aproximar uma função com:

19. Método dos quadrados mínimos • Caso não linear • Para resolver o caso não linear, é necessário linear a função escolhida para a aproximação. • No caso de , se queremos aproximar f(x) com essa função, podemos tentar aproximar ln(f(x)) com , ou seja , que é um caso linear. • É importante notar que os parâmetros obtidos não são ótimos em relação com o critério de quadrados mínimos.

20. Método dos quadrados mínimos • Teste de alinhamento • Uma vez a função não linear em a1,..,an escolhida, para testar se ela é um bom escolhe podemos: • Linearizar essa função, • Fazer o diagramo de dispersão dos novos dados • E observar se os pontos do diagramo estiverem alinhados.

21. Exercício A tabela abaixo mostra as alturas e pesos de uma amostra de nove homens entre as idades de 25 e 29 anos, extraída ao acaso entre funcionários de uma grande indústria: • Faça o diagrama de dispersão dosdados e observer que parece existir uma relação linear entre a altura e o peso. • Ajuste a reta que descreva o comportamento do peso em função da altura, isto é peso=f(altura), e ajuste a reta que descreva o comportamento da altura em função do peso, isto é altura=f(peso). • Estime o peso de um funcionário com 175 cm de altura; e estima a altura de um funcionário com 80kg com cada uma das duas equações.

22. Solução b) 52.7570x-20.0780 e 0.0159+0.6029 c) Com o primeiro ajuste: 1.75->72.2467 e 80kg->1.897 Com o segundo ajuste: 1.75->72.14 e 80kg->1.871

23. Exercício • Ajuste os dados: • Usando a aproximação y»1/(a0+a1x). Faça o gráfico para 1/y e verifique que esta aproximação é viável; • Idem para y»abx; • Compare os resultados

24. Solução • y=1/(0.1958+0.0185x) • y=5.5199(0.8597)x