Liġi tan-numri kbar

Il-liġi tan-numri kbar, imsejħa wkoll it-teorema ta' Bernoulli (għaliex l-ewwel formulazzjoni taha Jacob Bernoulli), tħares lejn l-imġiba tal-medja ta' sekwenza ta' $n$ varjabbli każwali indipendenti u distribwiti identikament (bħal $n$ qisien tal-istess kobor, $n$ tefgħat tal-istess munita eċċ.) meta $n$ tersaq lejn l-infinit.

Każ partikulari tal-applikazzjoni tal-liġi tan-numri kbar hu t-tbassir probabbilistiku tal-proporzjon ta' suċċessi minn $n$ realizzazzjonijiet indipendenti ta' ġrajja $E$: meta $n$ tersaq lejn l-infinit, il-proporzjon ta' suċċessi jikkonverġi għall-probabbiltà ta' $E$ (ara l-eżempju).

Il-liġi qawwija tan-numri kbar

Għal suċċessjoni ta' varjabbli każwali $X_1,X_2,...,X_n,...$ indipendenti u distribwiti identikament b'medja $\mu$, il-medja kampjunarja hi

${\overline{X}}_n=\frac{X_1+X_2+\cdots +X_n}{n}.$

Il-liġi (qawwija) tan-numri kbar tgħid li

$\mathrm{P}(\underset{n\to \mathrm{\infty }}{\lim }{\overline{X}}_n=\mu )=1,$

jiġifieri, il-medja kampjunarja tikkonverġi kważi ċertament għall-medja komuni tal-$X_i$.

Il-liġi dgħajfa tan-numri kbar

Il-liġi (dgħajfa) tan-numri kbar tgħid li jekk $X_1,X_2,...,X_n,...$ tkun suċċessjoni ta' varjabbli każwali li għandhom l-istess medja $\mu$, l-istess varjanza finita u indipendenti, imbagħad għal kull $\epsilon >0$:

$\underset{n\to \mathrm{\infty }}{\lim }\mathrm{P}(|{\overline{X}}_n-\mu |<\epsilon )=1,$

jiġifieri, il-medja kampjunarja tikkonverġi fil-probabbiltà għall-medja komuni tal-$X_i$.

Konsegwenzi fl-istatistika

Il-liġi tan-numri kbar tiggarantixxi li l-medja kampjunarja tagħtina stima konsistenti tal-medja ta' popolazzjoni; biżżejjed ngħidu li mħabba l-liġi tan-numri kbar nistgħu ikkolna fiduċja li l-medja li nikkalkulaw minn numru kbir biżżejjed ta' kampjuni hi qrib biżżejjed tal-medja vera.

Eżempju

Nissoponu li għandna ġrajja (bħall-fatt li t-tfigħ ta' damma jagħtina s-sitta) b'probabbiltà li ma nafuhiex $p$ (ma nafuhiex għax id-damma tista' tkun imbabsa, jew sempliċement difettuża: ma nistgħux inkunu nafu minn qabel).

Jekk nitfgħu id-damma $n$ darba wara xulxin niksbu stima tal-probabbiltà li nġibu s-sitta b'dik id-damma, $p$, li hi mogħtija minn

${\overline{X}}_n=\frac{X_1+X_2+...+X_n}{n}$

fejn kull $X$ fis-somma tirrappreżenta tefgħa u tiswa wieħed jekk it-tefgħa tagħtina s-sitta u żero jekk jiġi numru ieħor. Il-liġi tan-numri kbar tafferma sempliċement li, iżjed ma nużaw provi biex nikkalkulaw l-istima, iżjed din tkun qrib, probabbilment, għall-probabbiltà vera tal-ġrajja, $p$.

Jekk l-istima $X(n)$ li nikkalkulaw tkun qrib ħafna ta' wieħed f'sitta, li hi l-probabbiltà teorika li nġibu s-sitta għall-damma perfetta, nistgħu inkun ċerti mhux ħażin li d-damma m'hijiex imxaqilba lejn is-sitta (biex inkunu żguri li d-damma ma xxaqlibx lejn l-ebda numru irridu nirrepetu l-provi għall-ħames numri l-oħra). Xi tfisser żguri mhux ħażin jiddipendi minn kemm irridu nkunu preċiżi fil-provi tagħna: b'għaxar tefgħat ikollna stima raffa, b'mija jkollna waħda iżjed preċiża, b'elf iżjed u nibqgħu sejjrin hekk: il-valur ta' $n$ li lesti li naċċettaw bħala biżżejjed jiddependi mill-grad ta' każwalità li naħsbu li hu neċessarju għad-damma li qegħdin nużaw.

B'iżjed rigur

Ħalli $\{({\mathrm{\Omega }}_i,{𝒜}_i,{\mathrm{P}}_i){\}}_{i\in \mathbb{N}}$ tkun suċċessjoni ta' spazji ta' probabbiltà. Inħarsu lejn l-ispazju prodott $(\mathrm{\Omega },𝒜,\mathrm{P})$ u fih suċċessjoni Bernoulljana ta' ġrajjiet (stokastikament indipendenti u b'probabbiltà kostanti $p$), $\{E_k{\}}_{k\in \mathbb{N}}\subset 𝒜$. Għal kull element $\omega \in \mathrm{\Omega }$ niddefinixxu l-frekwenza ta' suċċess f'$n$ provi, ${\varphi }_n:\mathrm{\Omega }\to ℝ,{\varphi }_n(\omega )=N_n/n$, fejn $N_n=\mathrm{\#}\{i:\omega \in E_i{\}}_{i=1}^n$ turi n-numru ta' suċċessi miksuba f' $n$ provi.

Il-liġi dgħajfa tan-numri kbar

B'din in-notazzjoni il-liġi nistgħu niktbuha: $\mathrm{\forall }\epsilon >0$, $\underset{n\to \mathrm{\infty }}{\lim }\mathrm{P}\{\omega \in \mathrm{\Omega }:|{\varphi }_n(\omega )-p|>\epsilon \}=0$.

Prova:

Jekk niffissaw $\epsilon$ u nużaw id-diżugwaljanza ta' Čebyšëv

$\mathrm{P}\{\omega \in \mathrm{\Omega }:|{\varphi }_n(\omega )-\mathrm{E}({\varphi }_n)|>\epsilon \}\le \frac{\mathrm{var}({\varphi }_n)}{{\epsilon }^2}$

Jekk $N_n$ għandha distribuzzjoni binomjali, jkollna

$\mathrm{E}(N_n)=pn$ u $\mathrm{var}(N_n)=np(1-p),$

mil-liema

$\mathrm{E}({\varphi }_n)=p$ u $\mathrm{var}({\varphi }_n)=\frac{1}{n^2}np(1-p)=\frac{p(1-p)}{n}$.

Meta nissostitwixxu niksbu:

$\mathrm{P}\{\omega \in \mathrm{\Omega }:|{\varphi }_n(\omega )-p|>\epsilon \}\le \frac{p(p-1)}{n{\epsilon }^2}$

u la $\underset{n\to \mathrm{\infty }}{\lim }\frac{p(p-1)}{n{\epsilon }^2}=0$, $\mathrm{\forall }\epsilon >0$,

$\underset{n\to \mathrm{\infty }}{\lim }\mathrm{P}\{\omega \in \mathrm{\Omega }:|{\varphi }_n(\omega )-p|>\epsilon \}\le 0$

Imma $\mathrm{P}(𝒜)\ge 0$, u għalhekk ipprovajna l-liġi dgħajfa.

Nota: Il-liġi dgħajfa tan-numri kbar ma tiżgurax li, nagħżlu kif nagħżlu $\epsilon >0$, kważi ċertament jekk nibdew minn ċertu $n_{\epsilon }$ il-valur ta' $|{\varphi }_n-p|$ ħa jibqa inqas jew daqs $\epsilon$, jiġifieri li s-sett $\{\omega \in \mathrm{\Omega }:\mathrm{\exists }{n}_{\epsilon }:\mathrm{\forall }n>n_{\epsilon },|{\varphi }_n(\omega )-p|>\epsilon \}$ ħa jkun $\mathrm{P}$-traskurabbli. Infatti, jekk nagħmlu d-definizzjoni tal-limitu iżjed espliċita, insibu li: $\mathrm{\forall }\epsilon >0,\mathrm{\forall }\eta >0,\mathrm{\exists }{n}_{\epsilon ,\eta }:\mathrm{\forall }n\ge n_{\epsilon ,\eta },\mathrm{P}\{\omega \in \mathrm{\Omega }:|{\varphi }_n(\omega )-p|>\epsilon \}\le \eta$ imma m'hemm xejn li jiżgura li $n_{\epsilon ,\eta }$ ma tiddiverġiex meta $\eta \to 0$.

Il-liġi qawwija tan-numri kbar

Minn naħa l-oħra l-liġi qawwija tan-numri kbar: :$\mathrm{P}\{\omega \in \mathrm{\Omega }:\underset{n\to \mathrm{\infty }}{\lim }{\varphi }_n(\omega )=p\}=1$ timplika li $\mathrm{\forall }\epsilon >0$,

$\mathrm{P}\{\omega \in \mathrm{\Omega }:\mathrm{\exists }{n}_{\epsilon }:\mathrm{\forall }n>n_{\epsilon },|{\varphi }_n(\omega )-p|>\epsilon \}=0.$

u din l-asserzjoni tal-aħħar timplika l-liġi dagħjfa tan-numri kbar.

Prova taż-żewġ implikazzjonijiet:

1.

Billi nagħmlu d-definizzjoni tal-limitu espiliċita u ngħaddu għall-kumplement, nistgħu nifformolaw il-liġi qawwija b'dal-mod:

$\mathrm{P}\{\omega \in \mathrm{\Omega }:\mathrm{\exists }\epsilon >0:\mathrm{\forall }{n}_{\epsilon }\in \mathbb{N},\mathrm{\exists }n>n_{\epsilon }:|{\varphi }_n(\omega )-p|>\epsilon \}=0.$

Meta nittrasformaw il-kwantifikatur eżistenzjali f'unjoni, din issir:

$\mathrm{P}(\bigcup _{\epsilon >0}\{\omega \in \mathrm{\Omega }:\mathrm{\forall }{n}_{\epsilon }\in \mathbb{N},\mathrm{\exists }n>n_{\epsilon }:|{\varphi }_n(\omega )-p|>\epsilon \})=0.$

Issa jekk $\epsilon >0$, bil-monotonija ta' $\mathrm{P}$ għandna

$0\le \mathrm{P}\{\omega \in \mathrm{\Omega }:\mathrm{\exists }{n}_{\epsilon }\in \mathbb{N}:\mathrm{\forall }n>n_{\epsilon },|{\varphi }_n(\omega )-p|>\epsilon \}$

$\le \mathrm{P}(\bigcup _{\epsilon >0}\{\omega \in \mathrm{\Omega }:\mathrm{\forall }{n}_{\epsilon }\in \mathbb{N},:\mathrm{\exists }n>n_{\epsilon }:|{\varphi }_n(\omega )-p|>\epsilon \})=0,$

u mela

$\mathrm{P}\{\omega \in \mathrm{\Omega }:\mathrm{\exists }{n}_{\epsilon }\in \mathbb{N}:\mathrm{\forall }n>n_{\epsilon },|{\varphi }_n(\omega )-p|>\epsilon \}=0.$

2.

Minn naħa l-oħra jekk nassumu din tal-aħħar u nittrasformaw ukoll il-kwantifikaturi f'operazzjoniet tas-settijiet, ikollna:

$0=\mathrm{P}\{\omega \in \mathrm{\Omega }:\mathrm{\exists }{n}_{\epsilon }\in \mathbb{N}:\mathrm{\forall }n>n_{\epsilon },|{\varphi }_n(\omega )-p|>\epsilon \}$

$=\mathrm{P}(\bigcap _{m\in \mathbb{N}}\bigcup _{n>m}\{\omega \in \mathrm{\Omega }:|{\varphi }_n(\omega )-p|>\epsilon \})$

Imma, billi hemm intersezzjoni ta' suċċessjoni ta' settijiet li ma jikbrux, bil-monotonija ta' $\mathrm{P}$, nistgħu niktbu:

$\underset{m\to \mathrm{\infty }}{\lim }\mathrm{P}(\bigcup _{n>m}\{\omega \in \mathrm{\Omega }:|{\varphi }_n(\omega )-p|>\epsilon \})=0.$

Imbagħad bil-monotonija ta' $\mathrm{P}$ niksbu għal kull $\epsilon >0$.

$\underset{n\to \mathrm{\infty }}{\lim }\mathrm{P}(\{\omega \in \mathrm{\Omega }:|{\varphi }_n(\omega )-p|>\epsilon \})\le \underset{m\to \mathrm{\infty }}{\lim }\mathrm{P}(\bigcup _{n>m}\{\omega \in \mathrm{\Omega }:|{\varphi }_n(\omega )-p|>\epsilon \})=0$

li hi l-liġi dagħjfa tan-numri kbar.

Prova tal-liġi qawwija:

Digà rajna li l-asserzjoni hi ekwivalenti għal:

$\mathrm{P}(\bigcup _{\epsilon >0}\{\omega \in \mathrm{\Omega }:\mathrm{\forall }{n}_{\epsilon }\in \mathbb{N},\mathrm{\exists }n>n_{\epsilon }:|{\varphi }_n(\omega )-p|>\epsilon \})=0$

Din hi wkoll ekwivalenti għal:

$\mathrm{P}(\bigcup _{k\in {\mathbb{N}}_0}\{\omega \in \mathrm{\Omega }:\underset{n\to \mathrm{\infty }}{\mathrm{lim\; sup}}|{\varphi }_n(\omega )-p|>\frac{1}{k}\})=0$

Bis-subadditività

$\mathrm{P}(\bigcup _{k\in {\mathbb{N}}_0}\{\omega \in \mathrm{\Omega }:\underset{n\to \mathrm{\infty }}{\mathrm{lim\; sup}}|{\varphi }_n(\omega )-p|>\frac{1}{k}\})$

$\le \sum _{k\in {\mathbb{N}}_0}\mathrm{P}(\{\omega \in \mathrm{\Omega }:\underset{n\to \mathrm{\infty }}{\mathrm{lim\; sup}}|{\varphi }_n(\omega )-p|>\frac{1}{k}\}).$

Mela, billi $\mathrm{P}$ mhux negattiva, jekk nuru li $\mathrm{\forall }k\in {\mathbb{N}}_0$

$\mathrm{P}(\{\omega \in \mathrm{\Omega }:\underset{n\to \mathrm{\infty }}{\mathrm{lim\; sup}}|{\varphi }_n(\omega )-p|>\frac{1}{k}\})=0$

inkunu pprovajna l-liġi qawwija. L-ewwel ħa nipprovaw din għas-sottosuċċessjoni ${\varphi }_{n^2}$, jiġifieri $\mathrm{\forall }k\in {\mathbb{N}}_0$

$\mathrm{P}(\{\omega \in \mathrm{\Omega }:\underset{n\to \mathrm{\infty }}{\mathrm{lim\; sup}}|{\varphi }_{n^2}(\omega )-p|>\frac{1}{k}\})=0$.

Biex nagħmlu dan, bil-lemma ta' Borel-Cantelli, biżżejjed li nivverifikaw li l-espressjoni li ġejja tikkonverġi

$\sum _{n=1}^{\mathrm{\infty }}\mathrm{P}\{\omega \in \mathrm{\Omega }:|{\varphi }_{n^2}(\omega )-p|>\frac{1}{k}\}$

Bid-diżugwaljanza ta' Čebyšëv insibu li $\mathrm{\forall }k,\mathrm{\forall }n$

$\mathrm{P}(\{\omega \in \mathrm{\Omega }:|{\varphi }_{n^2}(\omega )-p|>\frac{1}{k}\})\le \text{var}({\varphi }_{n^2})k^2=k^2\frac{p(1-p)}{n^2}$

minn fejn:

$\sum _{n=1}^{\mathrm{\infty }}\mathrm{P}(\{\omega \in \mathrm{\Omega }:|{\varphi }_{n^2}(\omega )-p|>\frac{1}{k}\})\le p(1-p)k^2\sum _{n=1}^{\mathrm{\infty }}\frac{1}{n^2}$

Imma nafu li din is-serje tikkonverġi u għalhekk għandna li $\mathrm{\forall }k\in {\mathbb{N}}_0$,

$\mathrm{\forall }k\in {\mathbb{N}}_0,\mathrm{P}(\underset{n\to \mathrm{\infty }}{\mathrm{lim\; sup}}\{\omega \in \mathrm{\Omega }:|{\varphi }_{n^2}(\omega )-p|>\frac{1}{k}\})=0.$

Issa ninotaw li kull numru naturali n qiegħed bejn żewġ kwadrati konsekuttivi, jiġifieri, $\mathrm{\forall }n\in \mathbb{N},\mathrm{\exists }q\in \mathbb{N}$ hekk li

$q^2\le n<(q+1{)}^2$

minn fejn inġibu

$\frac{N_n}{(q+1{)}^2}\le {\varphi }_n\le \frac{N_n}{q^2}.$

Issa ninotaw li $n-q^2$ hi l-ikbar differenza possibbli bejn $N_{q^2}$ u $N_n$, u għalhekk:

$N_{q^2}\le N_n\le N_{q^2}+(n-q^2)$

u mela:

$\frac{N_{q^2}}{(q+1{)}^2}\le \frac{N_n}{(q+1{)}^2}\le {\varphi }_n\le \frac{N_n}{q^2}\le \frac{N_{q^2}+(n-q^2)}{q^2}.$

Issa jekk nużaw $n-q^2\le (q+1{)}^2-q^2$, ikollna:

$\frac{N_{q^2}}{q^2}\frac{q^2}{(q+1{)}^2}\le {\varphi }_n\le \frac{N_{q^2}}{q^2}+\frac{(q+1{)}^2-q^2}{q^2}.$

Meta ngħaddu għall-limitu ($n\to \mathrm{\infty }\Rightarrow q\to \mathrm{\infty }$) u napplikaw ir-riżultat miksub għal ${\varphi }_{n^2}$, niksbu li, kważi ċertament:

$p=p\underset{q\to \mathrm{\infty }}{\lim }\frac{q^2}{(q+1{)}^2}\le \underset{n\to \mathrm{\infty }}{\lim }{\varphi }_n\le p+\underset{q\to \mathrm{\infty }}{\lim }\frac{q^2+2q+1-q^2}{q^2}=p$

li ttemm il-prova.