Bayesi piljard — Uba üle sinu õla

Viska üksik uba ja see langeb varjatud märgist vasakule. Paneel näitab 0,6667. Selle lehe esimene sissevaateplokk ütleb 0,7500. Vastus, mille enamik inimesi kõva häälega annab, on 1, sest ühest viskest üks langes vasakule. Kõik kolm on õiged. Millisele küsimusele igaüks neist vastab?

1. Esmalt ülesehitus, sest see on põhjus, miks see konkreetne mõtteeksperiment on kuulus. Tähis pillatakse pimesi tasasele lauale mingis teadmata asukohas p ja iga hilisem uba langeb sellest vasakule tõenäosusega p. Midagi ei mõõdeta kunagi; iga uba edastab ühe biti. Richard Price luges essee Royal Societyle 1763. aasta detsembris, kaks aastat pärast Bayesi surma, ning ühtlane aprioorne jaotus p-l on füüsikaline fakt tähise viskamise viisi kohta, mitte modelleerimisvalik. See on haruldasem, kui kõlab, ja selle lehe kolmas sissevaateplokk räägib sellest, kui harva seda kuskil mujal esineb.

   $$p\sim \mathrm{Uniform}(0,1),\pi (p)=1\text{for}0\le p\le 1$$

2. Tõendmaterjal. Tulemuse saamine, kus n viskest k langes vasakule, on tõenäosusega p^k(1−p)^n−k, korrutatuna binoomkordajaga, mis ei sisalda üldse p-d. Korrutage ühtlase aprioorse jaotusega, seejärel normaliseerige ning kordaja taandub välja.

   $$\pi (p\mid k,n)\propto p^k(1-p{)}^{n-k}\cdot 1$$

3. Järele jääb beetajaotus, mille kaks parameetrit saadakse nendele astendajatele ühe liitmisel. Kui ühest viskest üks langeb vasakule, saame Beta(2, 1): sirge, mis algab vasakus servas nullist ja tõuseb paremas servas väärtuseni 2.

   $$p\mid k,n\sim \mathrm{Beta}(k+1,n-k+1)=\mathrm{Beta}(2,1),\pi (p)=2p$$

4. Esimene küsimus: kus asub tähis kõige suurema tõenäosusega? Tihedus 2p on suurim parempoolses servas, seega mood on p = 1. Hetkega pahvatatud vastus k/n = 1 jõuab samasse kohta teist teed pidi ning mõlemad on vastused küsimusele, mida keegi ei küsinud.

   $$\arg \underset{p}{\max }2p=1$$

5. Teine küsimus: kas tähis on üle keskpaiga? See on pindala, seega integreerige. Beta(2, 1) jaotusfunktsioon on p², seega mass üle poole on 1 − ¼. See ongi see 0,7500 esimeses sissevaateplokis.

   $$P\left(p>\frac{1}{2}\right)=1-{\left(\frac{1}{2}\right)}^2=\frac{3}{4}=0.7500$$

6. Kolmas küsimus: kas järgmine uba langeb vasakule? See küsimus ei puuduta üldse seda, kus p asub — see räägib sellest, mis juhtub järgmisena, ja see võtab p keskmise üle kõige, mida te nüüd p kohta usute. See keskmine on aposterioorne keskväärtus.

   $$P(\text{next left})={\int }_0^{1}p\cdot \pi (p)dp=\frac{k+1}{n+2}$$

7. Kui n = 1 ja k = 1, on keskväärtus kaks kolmandikku. Laplace tuletas selle 1774. aasta uurimuses ning sellest ajast peale on seda nimetatud järglusreegliks. Kordajad +1 ja +2 ei ole väikeste valimite silumine; need on tulemus, mille annab integreerimine ühtlase aprioorse jaotuse suhtes.

   $$\frac{k+1}{n+2}=\frac{1+1}{1+2}=\frac{2}{3}=0.6667$$

8. On veel neljaski arv, mida tööriist kusagil ei näita. Mediaan on 1/√2 ning paikneb keskväärtuse ja moodi vahel, just selles järjekorras. Iga posterior, mille see tööriist saab anda, on beetajaotus. Parema serva poole kaldu beetajaotuses paiknevad need kolm keskpunkti alati nõnda; tõendusmaterjali kogunedes muutuvad nende vahed taas väiksemaks. Kui visked on tasakaalus, langevad kõik kolm kokku.

   $$\text{mode }1>\text{median }\frac{1}{\sqrt{2}}=0.7071>\text{mean }\frac{2}{3}=0.6667$$

Käivita eelseadistus 400 viset (±5%). Paneel paigutab tähise 95% usaldusväärsusega vahemikku 0,4512 kuni 0,5488 ja tähis ongi tegelikult 0,4913 juures. Näita, et see 95% on täpne, mitte ligikaudne, ja arvuta siis, mis sellest järele jääb, kui laud ei ole tasane.

1. Loe oad uuesti üle, kaasa arvatud see, mida keegi ei vaata. Tähis pilluti pimesi lauale ja samamoodi ka 400 järgnenud uba; kõik 401 lahkusid samalt õlalt samale tasasele pinnale. Statistiliselt ei erista tähist viskest miski. Tal on lihtsalt nimi.

   $$p,x_1,\dots ,x_{400}\stackrel{\text{iid}}{\sim }\mathrm{Uniform}(0,1)(401\text{ draws, one labelled})$$

2. Võta siis need 401 asukohta ja sorteeri. Tähis võib võrdse tõenäosusega olla esimene, seitsmes või viimane, sest silt ei muuda järjekohta, ja arv, mida paneel nimetab k-ks, on lihtsalt tema järjekoht miinus üks. Igal vasakule langenute arvul, mida tööriist trükkida saab, ja neid on 401, 0-st kuni 400-ni, on tõenäosus 1/401. Kulli ja kirja loendus nii välja ei näe ning integraal kinnitab seda: binoomkordaja taandub beetafunktsiooni vastu ja n kaob, jättes järele vaid n + 1.

   $$P(k=j)={\int }_0^1\left(\genfrac{}{}{0ex}{}{n}{j}\right)p^j(1-p{)}^{n-j}dp=(\genfrac{}{}{0ex}{}{n}{j})B(j+1,n-j+1)=\frac{1}{n+1}$$

3. Sama sümmeetria lahendab ka vahemiku. Sööda tähise tegelik asukoht tema enda aposterioorsesse jaotusfunktsiooni ja tulemus on ühikvahemikul ühtlane; just seda tähendabki, et posterior on p aus tinglik jaotus. Seega on tõenäosus, et tõde jääb 2,5. ja 97,5. protsentiili vahele, 0,95, ja selles lauses ei ole kusagil ühtki ligikaudsust. Kümne viske simuleerimine sada tuhat korda annab 0,94967.

   $$U=I_p(k+1,n-k+1)\sim \mathrm{Uniform}(0,1)⟹P(0.025<U<0.975)=0.95$$

4. See kehtib iga valimimahu juures ja just selle juures tasub peatuda. 400 viske vahemik on 0,0976 lai ja tähis istub selle sees mugavalt. Ühe viske vahemik ulatub 0,1581-st 0,9874-ni ega välista peaaegu midagi, kuid on täpselt sama kehtiv. Kasutu olla ja vale olla on kaks eri viga.

   $$n=400:[0.4512,0.5488],\text{width }0.0976;n=1:[0.1581,0.9874]$$

5. Lõhu nüüd see üks asi, millel kõik püsib. Oletame, et laud ei ole tasane, vaid keskelt kumer, nii et tähis kipub veerema serva poole, samal ajal kui paneel arvutab edasi ühtlase aprioorse jaotuse põhjal. Integreeri kaetus üle selle tegeliku jaotuse ja 95% silt on ühe viske järel väärt 68,7%, kümne järel 78,7% ja saja järel 87,1%.

   $$p\sim \mathrm{Beta}(0.3,0.3),\text{interval still from }\pi (p)=1:0.687,0.787,0.871(n=1,10,100)$$

6. Pane tähele, kummale poole see eksis ja kui aeglaselt tõendusmaterjal seda parandas. Sajakordne andmehulk sulges veidi üle poole lõhest. Teistpidi kumer laud, mis kogub tähise keskkoha lähedale, jätab vahemiku hoopis liiga laiaks: 99,9%, 95,8%, 95,1%. Valus on just servades, sest seal on ühtlane aprioorne jaotus kõige enesekindlam ja kõige rohkem eksiteel.

   $$p\sim \mathrm{Beta}(6,6):0.999,0.958,0.951$$