Matematik

Matrixregning

07. juni 2007 af Madsst (Slettet)
Hejsa, jeg har lidt problemer med et bevis der er gennemgået i min statistikbog.
': transponering. X er en n * k+1 matrix med rang k+1 og I er n * n enhedsmatricen.

Jeg har en matrix u(hat)' * u(hat),
hvor det kan vises at u(hat)=(I-X(X'X)^-1X)*u=M*u
Der står så:
u(hat)' * u(hat) = u'Mu, så langt er jeg med da u(hat) er M symmetrisk og idempotent.

Videre står der så:
"Because u'Mu is a scalar, it equals its trace". Hvad vil det sige?

Til sidst står der:
tr(M)=tr(I)-tr(X(X'X)^-1X) = n - tr(X(X'X)^-1X)
=n -( k + 1)

Jeg kender ikke lige til operationer med trace, så det ville være rart om nogen kunne vade mig igennem det.
På forhånd tak!

Brugbart svar (0)

Svar #1
07. juni 2007 af peter lind

Det er produktet af diagonalelementerne.

Brugbart svar (0)

Svar #2
07. juni 2007 af sheaf (Slettet)

"because u'Mu is a scalar, it equals its trace". Hvad vil det sige?

En skalar a opfattes som en 1x1-matrix [a], sporet af den er a. Så sporet af skalaren a opfattes som 1x1-matrix er lig a. Så sp(u'Mu) = u'Mu.

"vade mig igennem det. "

Sporet er summen af diagonalelementerne. Det er en lineær operator og sporet ændrer sig ikke ved transponering (fordi diagonalen er urørt).

Er dit egentlige spørgsmål hvorfor sp(X(X'X)^(-1)X) = k+1 ?

Svar #3
07. juni 2007 af Madsst (Slettet)

Tak! Ja, så giver det mere mening.
#2 Ja, det er den der jeg mangler at forstå nu.

Svar #4
07. juni 2007 af Madsst (Slettet)

#2 Kan du også forklare mig hvorfor
tr(u'Mu)=tr(Muu')?

Brugbart svar (0)

Svar #5
07. juni 2007 af sheaf (Slettet)

I grunden må der skulle stå sp(X(X'X)^(-1)X'). For (X'X)^(-1) er (k+1)x(k+1) og kan ikke multipliceres med X som er n x (k+1).

Det er muligt der er en langt smartere måde baseret på de informationer du har i din tekst, men her er een mulighed.

Produktet af en matrix X og dens transponerede er en symmetrisk matrix som har en symmetrisk invers. Skriv f.eks. elementerne i X'X som (jeg springer LaTeX'en over)

y11..y1,k+1
:
yk+1,1...yk+1,k+1

Den inverse (X'X)^(-1) er givet ved

A11/|A|...A1,k+1/|A|
:
Ak+1,1/|A|...Ak+1,k+1/|A|

hvor A_ij er komplementet til y_ij og |A|=det(X'X). Denne determinant kan skrives på enhver af de k+1 måder:

|A| = sum{i=1->k+1)y_ri*A_ri

hvor r er rækkeindex.

Det viser sig nu - og det er du nødt til selv lige at prøve, for det er en større skriveøvelse - at produktet

X(X'X)^(-1)X' = (1/|A|)X[A11...A1,k+1 , ... , Ak+1,1...Ak+1,k+1]X'

i diagonalen får elementer hvis sum er på formen

y11*A11 + y12*A12 + ... + y1,k+1*A1,k+1 + (= |A|)

y21*A21 + y22*A22 + ... + y2,k+1*A2,k+1 + (= |A|)

:

yk+1,1*Ak+1,1 + yk+1,2*Ak+1,2 + ... + yk+1,k+1*Ak+1,k+1 + (= |A|)

og altså summerer til (k+1)|A|. Derfor er sp(X(X'X)^(-1)X') = (k+1)|A|/|A| = k+1.



Svar #6
09. juni 2007 af Madsst (Slettet)

Tak for det! Jeg kendte ikke lige den regneregel du brugte, så det var lidt svært synes. Jeg har til gengæld fundet ud af at man kan udnytte at:
tr(X(X'X)^-1X')=tr(XX'(X'X)^-1), således at det bliver tr(I_k+1)=k+1. Jeg er nu ikke helt med på hvorfor det er sådan, men det kan jeg i det mindste huske. Ellers mange tak!

Svar #7
09. juni 2007 af Madsst (Slettet)

Hov - der skulle stå:
tr(X(X'X)^-1X')=tr((X'X)^-1X'X)

Skriv et svar til: Matrixregning

Du skal være logget ind, for at skrive et svar til dette spørgsmål. Klik her for at logge ind.
Har du ikke en bruger på Studieportalen.dk? Klik her for at oprette en bruger.