Varijansa

Primer uzoraka iz dve populacije sa istom srednjom vrednošću, ali različitim varijacijama. Crvena populacija ima srednju vrednost 100 i varijansu 100 (SD=10), dok plava populacija ima srednju vrednost 100 i varijansu 2500 (SD=50).

Disperzija ili varijansa je pojam iz teorije verovatnoće i statistike. Ona predstavlja matematičko očekivanje odstupanja slučajne promenljive od njene srednje vrednosti. Varijansa je mera disperzije, što znači da izražava koliko je skup brojeva raširen od njihove prosečne vrednosti. Varijansa ima centralnu ulogu u statistici, gde neke ideje koje je koriste uključuju deskriptivnu statistiku, statističko zaključivanje, testiranje hipoteze, adekvatnost uklapanja i Monte Karlo uzorkovanje. Varijanca je važan alat u nauci, gde je uobičajena primena statističke analize podataka. Varijanca je kvadrat standardne devijacije, drugi centralni momenat distribucije i kovarijansa slučajne promenljive sa samom sobom, a često se predstavlja sa $\sigma ^{2}$, $s^{2}$, $\operatorname {Var} (X)$, $V(X)$, ili $\mathbb {V} (X)$.

Na primer, savršena kocka za igru može da da jedan od 6 ishoda. Očekivana vrednost broja kojeg će kocka da pokaže je (1 + 2 + 3 + 4 + 5 + 6)/6 = 3,5, očekivana standardna devijacija je σ ≈ 1.71 (kvadratni koren aritmetičke sredine jednakoverovatnih kvadrata apsolutnih odstupanja: 3,5 − 1, 3,5 − 2, 3,5 − 3, 4 − 3,5, 5 − 3,5, 6 − 3,5, što daje 2,5, 1,5, 0,5, 0,5, 1,5, 2,5), očekivano kvadratno odstupanje ili varijansa je  17,5/6 ≈ 2,9 (srednja vrednost jednakoverovatnih kvadrata odstupanja: 2,5², 1,5², 0,5², 0,5², 1,5², 2,5²).

Definicija

Neka je $\mu =\operatorname {E} (X)$ matematičko očekivanje realnog slučajnog vektora $X$ za koji postoji integral kvadrata njegovih vrednosti. Tada je varijansa slučajne promenljive:

$\operatorname {Var} (X):=\operatorname {V} (X):=\operatorname {E} {\bigl (}(X-\mu )(X-\mu )^{T}{\bigr )}.$

Ako je vektor $X$ jednodimenzionalan, uslovi za $X$ mogu da se uproste. Ako je $E(X)<\infty$, onda važi:

$\operatorname {Var} (X)=\operatorname {E} {\bigl (}(X-\mu )^{2}{\bigr )}.$

Ova definicija obuhvata slučajne varijable koje su generisane procesima koji su diskretni, kontinuirani, ni jedno ni drugo ili mešoviti. Varijansa se takođe može smatrati kovarijansom slučajne promenljive sa samom sobom:

$\operatorname {Var} (X)=\operatorname {Cov} (X,X).$

Varijansa je takođe ekvivalentna drugom kumulantu distribucije verovatnoće koja generiše $X$. Varijansa se obično označava kao $\operatorname {Var} (X)$, ili ponekad kao $V(X)$ ili $\mathbb {V} (X)$, ili simbolično kao $\sigma _{X}^{2}$ ili jednostavno $\sigma ^{2}$ (izgovara se „sigma na kvadrat”). Izraz za varijansu se može proširiti na sledeći način:

${\begin{aligned}\operatorname {Var} (X)&=\operatorname {E} \left[(X-\operatorname {E} [X])^{2}\right]\\[4pt]&=\operatorname {E} \left[X^{2}-2X\operatorname {E} [X]+\operatorname {E} [X]^{2}\right]\\[4pt]&=\operatorname {E} \left[X^{2}\right]-2\operatorname {E} [X]\operatorname {E} [X]+\operatorname {E} [X]^{2}\\[4pt]&=\operatorname {E} \left[X^{2}\right]-\operatorname {E} [X]^{2}\end{aligned}}$

Drugim rečima, varijansa X je jednaka srednjoj vrednosti kvadrata X minus kvadrat srednje vrednosti X. Ova jednačina ne bi trebalo da se koristi za proračune korišćenjem aritmetike sa plutajućim zarezom, jer pati od katastrofalnog poništavanja ako su dve komponente jednačine slične po veličini. Za druge numerički stabilne alternative pogledajte algoritme za izračunavanje varijanse.

Diskretna slučajna promenljiva

Ako je generator slučajne promenljive $X$ diskretan sa funkcijom verovatnoće $x_{1}\mapsto p_{1},x_{2}\mapsto p_{2},\ldots ,x_{n}\mapsto p_{n}$, onda je

$\operatorname {Var} (X)=\sum _{i=1}^{n}p_{i}\cdot (x_{i}-\mu )^{2},$

gde je $\mu$ očekivana vrednost. To je,

$\mu =\sum _{i=1}^{n}p_{i}x_{i}.$

(Kada je takva diskretna ponderisana varijansa određena ponderima čiji zbir nije 1, tada se deli zbirom pondera.)

Varijanca kolekcije od $n$ jednako verovatnih vrednosti može se napisati kao

$\operatorname {Var} (X)={\frac {1}{n}}\sum _{i=1}^{n}(x_{i}-\mu )^{2}$

gde je $\mu$ prosečna vrednost. To je,

$\mu ={\frac {1}{n}}\sum _{i=1}^{n}x_{i}.$

Varijanca skupa od $n$ jednako verovatnih vrednosti može biti ekvivalentno izražena, bez direktnog pozivanja na srednju vrednost, u smislu kvadrata odstupanja svih tačaka jedne od druge:

$\operatorname {Var} (X)={\frac {1}{n^{2}}}\sum _{i=1}^{n}\sum _{j=1}^{n}{\frac {1}{2}}(x_{i}-x_{j})^{2}={\frac {1}{n^{2}}}\sum _{i}\sum _{j>i}(x_{i}-x_{j})^{2}.$

Apsolutno kontinuirana slučajna promenljiva

Ako randomna promenljiva $X$ ima funkciju gustine verovatnoće $f(x)$, i $F(x)$ je korespondirajuća kumulativna funkcija raspodele, onda je

${\begin{aligned}\operatorname {Var} (X)=\sigma ^{2}&=\int _{\mathbb {R} }(x-\mu )^{2}f(x)\,dx\\[4pt]&=\int _{\mathbb {R} }x^{2}f(x)\,dx-2\mu \int _{\mathbb {R} }xf(x)\,dx+\mu ^{2}\int _{\mathbb {R} }f(x)\,dx\\[4pt]&=\int _{\mathbb {R} }x^{2}\,dF(x)-2\mu \int _{\mathbb {R} }x\,dF(x)+\mu ^{2}\int _{\mathbb {R} }\,dF(x)\\[4pt]&=\int _{\mathbb {R} }x^{2}\,dF(x)-2\mu \cdot \mu +\mu ^{2}\cdot 1\\[4pt]&=\int _{\mathbb {R} }x^{2}\,dF(x)-\mu ^{2},\end{aligned}}$

ili ekvivalentno,

$\operatorname {Var} (X)=\int _{\mathbb {R} }x^{2}f(x)\,dx-\mu ^{2},$

gde je $\mu$ očekivana vrednost od $X$ data sa

$\mu =\int _{\mathbb {R} }xf(x)\,dx=\int _{\mathbb {R} }x\,dF(x).$

U ovim formulama, integrali u odnosu na $dx$ i $dF(x)$ su Lebesgov i Lebesg–Stiltjeov integral, respetivno.

Ako je funkcija $x^{2}f(x)$ integrabilna po Rimanu na svakom konačnom intervalu $[a,b]\subset \mathbb {R} ,$ onda je

$\operatorname {Var} (X)=\int _{-\infty }^{+\infty }x^{2}f(x)\,dx-\mu ^{2},$

pri čemu je ovaj integral nepravilan Rimanov integral.

Primeri

Eksponencijalna distribucija

Eksponencijalna raspodela sa parametrom λ je kontinuirana raspodela čija je funkcija gustine verovatnoće data sa

$f(x)=\lambda e^{-\lambda x}$

na intervalu [0, ∞). Može se pokazati da je njegova srednja vrednost

$\operatorname {E} [X]=\int _{0}^{\infty }\lambda xe^{-\lambda x}\,dx={\frac {1}{\lambda }}.$

Koristeći integraciju po delovima i upotrebljavajući očekivanu vrednost koja je već izračunata, dobija se:

${\begin{aligned}\operatorname {E} \left[X^{2}\right]&=\int _{0}^{\infty }\lambda x^{2}e^{-\lambda x}\,dx\\&=\left[-x^{2}e^{-\lambda x}\right]_{0}^{\infty }+\int _{0}^{\infty }2xe^{-\lambda x}\,dx\\&=0+{\frac {2}{\lambda }}\operatorname {E} [X]\\&={\frac {2}{\lambda ^{2}}}.\end{aligned}}$

Stoga je varijansa od X data izrazom

$\operatorname {Var} (X)=\operatorname {E} \left[X^{2}\right]-\operatorname {E} [X]^{2}={\frac {2}{\lambda ^{2}}}-\left({\frac {1}{\lambda }}\right)^{2}={\frac {1}{\lambda ^{2}}}.$

Bacanje kocke

Šestostrana koca se može modelovati kao diskretna randomna promenljiva, X, sa ishodima od 1 do 6, svaki sa jednakom verovatnoćom 1/6. Očekivana vrednost X je $(1+2+3+4+5+6)/6=7/2.$ Dakle, varijansa X je

${\begin{aligned}\operatorname {Var} (X)&=\sum _{i=1}^{6}{\frac {1}{6}}\left(i-{\frac {7}{2}}\right)^{2}\\[5pt]&={\frac {1}{6}}\left((-5/2)^{2}+(-3/2)^{2}+(-1/2)^{2}+(1/2)^{2}+(3/2)^{2}+(5/2)^{2}\right)\\[5pt]&={\frac {35}{12}}\approx 2.92.\end{aligned}}$

Opšta formula za varijansu ishoda, X, n-strane kocke je

${\begin{aligned}\operatorname {Var} (X)&=\operatorname {E} \left(X^{2}\right)-(\operatorname {E} (X))^{2}\\[5pt]&={\frac {1}{n}}\sum _{i=1}^{n}i^{2}-\left({\frac {1}{n}}\sum _{i=1}^{n}i\right)^{2}\\[5pt]&={\frac {(n+1)(2n+1)}{6}}-\left({\frac {n+1}{2}}\right)^{2}\\[4pt]&={\frac {n^{2}-1}{12}}.\end{aligned}}$

Često korišćene distribucije verovatnoće

Sledeća tabela navodi varijansu za neke često korišćene distribucije verovatnoće.

Naziv raspodele verovatnoće	Funkcija raspodele verovatnoće	Aritmetička sredina	Varijansa
Binomna raspodela	$\Pr \,(X=k)={\binom {n}{k}}p^{k}(1-p)^{n-k}$	$np$	$np(1-p)$
Geometrijska raspodela	$\Pr \,(X=k)=(1-p)^{k-1}p$	${\frac {1}{p}}$	${\frac {(1-p)}{p^{2}}}$
Normalna raspodela	$f\left(x\mid \mu ,\sigma ^{2}\right)={\frac {1}{\sqrt {2\pi \sigma ^{2}}}}e^{-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}}$	$\mu$	$\sigma ^{2}$
Uniformna raspodela (kontinuirana)	$f(x\mid a,b)={\begin{cases}{\frac {1}{b-a}}&{\text{for }}a\leq x\leq b,\\[3pt]0&{\text{for }}x<a{\text{ or }}x>b\end{cases}}$	${\frac {a+b}{2}}$	${\frac {(b-a)^{2}}{12}}$
Eksponencijalna raspodela	$f(x\mid \lambda )=\lambda e^{-\lambda x}$	${\frac {1}{\lambda }}$	${\frac {1}{\lambda ^{2}}}$
Poasonova raspodela	$f(k\mid \lambda )={\frac {e^{-\lambda }\lambda ^{k}}{k!}}$	$\lambda$	$\lambda$

Literatura

• Klenke, Achim (2013). Wahrscheinlichkeitstheorie. str. 106. doi:10.1007/978-3-642-36018-3. 
• Loève, Michel (1977). Probability Theory I. Springer. str. 246. ISBN 3-540-90210-4. 
• Itô, Kiyosi (1984). Introduction to Probability Theory. Cambridge University Press. str. 37. ISBN 0 521 26960 1. 
• Lemons, Don S. (2002), An Introduction to Stochastic Processes in Physics, The Johns Hopkins University Press, ISBN 0-8018-6866-1 
• Bevington, Philip R (1969). Data Reduction and Error Analysis for the Physical Sciences. New York, N.Y.: McGraw-Hill. OCLC 300283069. 
• Strutz, T. (2010). Data Fitting and Uncertainty (A practical introduction to weighted least squares and beyond). Vieweg+Teubner. ISBN 978-3-8348-1022-9. 
• Anscombe, F. J. (1948). „The Validity of Comparative Experiments”. Journal of the Royal Statistical Society. Series A (General). 111 (3): 181—211. JSTOR 2984159. MR 30181. doi:10.2307/2984159. 
• Bailey, R. A. (2008). Design of Comparative Experiments. Cambridge University Press. ISBN 978-0-521-68357-9.  Pre-publication chapters are available on-line.
• Belle, Gerald van (2008). Statistical rules of thumb (2nd izd.). Hoboken, N.J: Wiley. ISBN 978-0-470-14448-0. 
• Cochran, William G.; Cox, Gertrude M. (1992). Experimental designs (2nd izd.). New York: Wiley. ISBN 978-0-471-54567-5. 
• Cohen, Jacob (1988). Statistical power analysis for the behavior sciences (2nd ed.). Routledge ISBN 978-0-8058-0283-2
• Cohen, Jacob (1992). „Statistics a power primer”. Psychological Bulletin. 112 (1): 155—159. PMID 19565683. doi:10.1037/0033-2909.112.1.155. 
• Cox, David R. (1958). Planning of experiments. Reprinted as ISBN 978-0-471-57429-3
• Cox, David R. (2006). Principles of statistical inference. Cambridge New York: Cambridge University Press. ISBN 978-0-521-68567-2. 
• Freedman, David A.(2005). Statistical Models: Theory and Practice, Cambridge University Press. ISBN 978-0-521-67105-7
• Gelman, Andrew (2005). „Analysis of variance? Why it is more important than ever”. The Annals of Statistics. 33: 1—53. S2CID 13529149. arXiv:math/0504499 . doi:10.1214/009053604000001048. 
• Gelman, Andrew (2008). „Variance, analysis of”. The new Palgrave dictionary of economics (2nd izd.). Basingstoke, Hampshire New York: Palgrave Macmillan. ISBN 978-0-333-78676-5. 
• Hinkelmann, Klaus; Kempthorne, Oscar (2008). Design and Analysis of Experiments. I and II (Second izd.). Wiley. ISBN 978-0-470-38551-7. 
• Howell, David C. (2002). Statistical methods for psychology (5th izd.). Pacific Grove, CA: Duxbury/Thomson Learning. ISBN 978-0-534-37770-0. 
• Kempthorne, Oscar (1979). The Design and Analysis of Experiments (Corrected reprint of (1952) Wiley izd.). Robert E. Krieger. ISBN 978-0-88275-105-4. 
• Lehmann, E.L. (1959) Testing Statistical Hypotheses. John Wiley & Sons.
• Montgomery, Douglas C. (2001). Design and Analysis of Experiments (5th izd.). New York: Wiley. ISBN 978-0-471-31649-7. 
• Moore, David S. & McCabe, George P. (2003). Introduction to the Practice of Statistics (4e). W H Freeman & Co. ISBN 0-7167-9657-0
• Rosenbaum, Paul R. (2002). Observational Studies (2nd ed.). New York: Springer-Verlag. ISBN 978-0-387-98967-9
• Scheffé, Henry (1959). The Analysis of Variance. New York: Wiley. 
• Stigler, Stephen M. (1986). The history of statistics : the measurement of uncertainty before 1900. Cambridge, Mass: Belknap Press of Harvard University Press. ISBN 978-0-674-40340-6. 
• Wilkinson, Leland (1999). „Statistical Methods in Psychology Journals; Guidelines and Explanations”. American Psychologist. 5 (8): 594—604. CiteSeerX 10.1.1.120.4818 . doi:10.1037/0003-066X.54.8.594. 

Spoljašnje veze

• Analysis of variance: Introduction