Questa voce o sezione sull'argomento statistica è priva o carente di note e riferimenti bibliografici puntuali.
Il teorema di Gauss-Markov, così chiamato in onore dei matematici Carl Friedrich Gauss e Andrej Markov, è un teorema in statistica matematica che afferma che in un modello lineare in cui i disturbi hanno valore atteso nullo, sono incorrelati e omoschedastici, gli stimatori lineari corretti più efficienti sono gli stimatori ottenuti con il metodo dei minimi quadrati.
Enunciato del teorema
In termini più formali, si consideri un modello lineare in notazione matriciale:
![{\displaystyle y=X\beta +\varepsilon ,}](https://wikimedia.org/api/rest_v1/media/math/render/svg/bd413bddaa406ca773393584648fb9f1f2a1834e)
dove
e
(con
si indica la matrice trasposta della matrice
); essendo
![{\displaystyle {\hat {\beta }}=(X'X)^{-1}X'y}](https://wikimedia.org/api/rest_v1/media/math/render/svg/6fb35a472d2689e275e8ccfb768e3eab71af8e08)
il vettore degli stimatori dei minimi quadrati, allora qualunque stimatore alternativo
![{\displaystyle b=Ly}](https://wikimedia.org/api/rest_v1/media/math/render/svg/823acc6dcad67b683f6c540e35662d9c306a9a5c)
ottenuto come combinazione lineare degli
è tale per cui:
![{\displaystyle \mathrm {Var} \left(b\right)-\mathrm {Var} \left({\hat {\beta }}\right)=\mathrm {E} \left[\left(b-\beta \right)\left(b-\beta \right)'\right]-\mathrm {E} \left[\left({\hat {\beta }}-\beta \right)\left({\hat {\beta }}-\beta \right)'\right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/481d68d415b903e70a920b471d294478e13db678)
è una matrice semidefinita positiva.
Dimostrazione
Si consideri un generico stimatore lineare
; si decomponga la matrice
come:
![{\displaystyle L=D+(X'X)^{-1}X'.}](https://wikimedia.org/api/rest_v1/media/math/render/svg/e7d59bb43cd98e71d65cf71e3f60ea6089cd2847)
Si impone a questo punto che
sia uno stimatore corretto, ossia:
![{\displaystyle \mathrm {E} \left[b\right]=\mathrm {E} \left[Dy+(X'X)^{-1}X'y\right]=\beta .}](https://wikimedia.org/api/rest_v1/media/math/render/svg/af51a68dde8a1e439ecba35fb33b1eead31ed864)
Evidentemente, ciò è possibile solo se
(e, ovviamente,
). La matrice delle covarianze di
è data da:
![{\displaystyle \mathrm {E} \left[(b-\beta )(b-\beta )'\right]=\mathrm {E} \left[(D+(X'X)^{-1}X')\varepsilon \varepsilon '(D+(X'X)^{-1}X')'\right]=\sigma ^{2}(DD'+(X'X)^{-1}),}](https://wikimedia.org/api/rest_v1/media/math/render/svg/6f5fbb4e3b6a9cbc73893b571c5f0dceeb58a01a)
poiché la correttezza di
impone che
. Nell'espressione sopra si riconosce la matrice delle covarianze degli stimatori dei minimi quadrati
; è immediato osservare che la matrice
è semi-definita positiva, in quanto
e:
![{\displaystyle v'DD'v=(D'v)'(D'v)=||D'v||^{2}\geq 0,\quad \forall v\neq 0,}](https://wikimedia.org/api/rest_v1/media/math/render/svg/ba4a5b61c6e4955000db330f939506f2fd2ffa07)
così che la tesi del teorema risulta dimostrata.
Bibliografia
- Plackett, R.L. (1950). "Some Theorems in Least Squares". Biometrika 37 (1–2): 149–157. doi:10.1093/biomet/37.1-2.149. JSTOR 2332158. MR 36980.
Uso in fisica
- L. Lyons, D. Gibaut, P. Clifford (1998). "How to combine correlated estimates of a single physical quantity". Nucl. Instr. and Meth. A270: 110.
- L. Lyons, A. J. Martin, D. H. Saxon (1990). "On the determination of the b lifetime by combining the results of different experiments". Phys. Rev. D41: 982–985.
Voci correlate
Portale Economia
Portale Matematica
Portale Statistica