best linear predictor

Man må besluttte sig for, hvad ordet "bedst" betyder i "bedste" rette linje.
Umiddelbart kunne man mene den linje, hvor afstanden fra datapunkterne til linjen totalt eller gennemsnitligt er midst. Problemet er bare, at det bliver meget omstændeligt at regne med den egentlige (vinkelrette) afstand til linjen, så man beslutter, at det skal betyde mindste lodrette afstand mellem datapunkter og linje.
Det er imidlertid også besværligt at regne med numerisk værdi, som man jo skulle for at få afstanden, så både punkter over og under linjen bidrager, men afstanden er mindst, når kvadratafstanden er mindst, og det er netop denne lodrette kvadratafstand mellem y-værdi og modelværdi, du har i (Y - α - βX)², og den skal altså være mindst mulig.
I DK ville vi skrive f(x) = a·x + b og få (y - f(x))² = (y - a·x - b)², men i USA er standarden for en lineær funktion f(x) = a + b·x eller som her f(x) = α + β·x.

ja, men hvorfor flytte man det hele til venstre side? y=ax+b -> y-ax-b. forstår heller ikke helt det beta stjerne er lig med ?

4. og 5. line fra neden er to ligninger med to ubekendte. Dem løser man og kommer frem til de to sidste linier.

men hvorfor ændre man y=ax+b til y-ax+b=0 

hvordan viser jeg:

Show that the best linear predictor of Y given X, i.e.

Y_hat = aX + b

Jeg plejer at gå en lidt anden vej, men princippet er det det samme jeg gør, dog med en enkelt vigtig forskel, som jeg vender tilbage til:

Jeg har N par (x_n,y_n), n = 1,...,N, af observerede værdier, som formodes at have en lineær sammenhæng af formen y=a+bx. Afsætter man værdiparene i et koordinatsystem, kan man se, at de ikke ligger på en ret linie. Derfor indfører jeg størrelsen d_n, der er forskellen mellem den aflæste y-værdi og den y-værdi, der kan beregnes ud fra den tilhørende x-værdi og de endnu ukendte konstanter a og b:

d_n = y_n - (a+bx_n) = y_n - a - bx_n

De to konstanter, a og b, vi søger skal fastlægges, så alle d_n'erne skal blive numerisk mindst mulige.

Numerisk værdi er upraktisk at regne med, fordi den ikke er differentiabel i 0. Derfor vælger man i stedet at benytte d_n², som er differentiabel. Betingelse "alle" opfyldes hos mig ved at jeg tager summen af d_n², men man kan også benytte E(d²).

Den måde, de efterfølgende udregninger sker på, afhænger af dette valg, men grundprincipperne er de samme.

Jeg kan ikke længere huske den statistiske sprogbrug, så jeg kan desværre ikke besvare dit sidste spørgsmål.