Mindste kvadraters metode

Det er korrekt, at man også kunne forsøge at minimere summen af de numeriske værdier. Metoden vil så ikke længere kunne kaldes "mindste kvadraters metode"

Ved at minimere summen af kvadraterne, giver man større vægt til de store afvigelser, end hvis man minimerer de numeriske værdier. Benytter man mindste kvadraters metode med en polynomiumsmodel, findes de søgte koefficienter ved at løse et lineært ligningssystem.

Jo man kan godt bruge andre metoder til at bestemme parametrene. beregningsmæssigt er det at bruge kvadratet langt det nemmeste. Hvis du i stedet brugte numerisk værdier vil hovedproblemet være at så bliver den funktion, der skal minimeres ikke differentiabel. 3. potens vil give det problem at så får man problemer med fortegnet, så man igen skal bruge numerisk værdi. 4. potens kan man godt bruge. Den er blot mere besværlig.

Statistisk set har kvadratet også nogle fordele. For at se det skal man dog ret dybt ind i statistikken

Tusind tak #1 og #2.

#1 Kunne du uddybe hvordan man danner en tendenslinje til en polynomium af højere grad af 1? Potens og eksponentiel er forholdvis nemme, da man kan tage logaritmen af begge ... Men hvad med - for eksempel - en andengradspolynomium?

#3

Ved mindste kvadraters metode kan man bestemme koefficienterne i et polynomium

f(x) = ∑ⁿ_i=0 a_i·xⁱ ,

der bedst approximerer et givet datasæt {x_j , y^j} , j = 1,...,m . Det er her en forudsætning, at der er flere datapunkter end der er frihedsgrader, dvs m > n+1 . Opgaven går her ud på at bestemme koefficienterne {a_i} , således at summen

S = ∑^m_j=1 (f(x_j) - y_j)²

er mindst mulig. Løsningen findes ved at finde et stationært punkt for S, dvs ved at løse det lineære ligningssystem

∂S/∂a_i = 0 , i = 0,1,...,n

Se eventuelt http://en.wikipedia.org/wiki/Least_squares med links til yderligere artikler.

#4

Lige hvad jeg søgte. Endnu en gang - tusind tak for forklaringen og linksene.

#4

Datasættet skulle være {(x_j , y_j)} , dvs et sæt af m sammenhørende værdier af x og y.

#3 Polynomier er i princippet ikke mere besværlig en lineær regression. Det hænger sammen med at polynomier er lineær i parametrene. Derfor kaldes det stadig lineær regression, når man skal bestemme parametrene

Der er et problem med polynomier, hvis de har for høj en grad for rimelig store værdier af n ligner xⁿ og xⁿ⁺¹ hinanden for meget, hvilket gør at de ligninger man skal løse har problemer med regnenøjagtigheden. Man kan delvis overkomme problemet ved at bruge nogle specielle polynomier i stedet for standarten 1, x, x² --- xⁿ