słabe prawo dużej liczby
2.3 paradigm statystyki bayesowskiej
zwolennicy i krytycy generalnie zgadzają się, że Bayesianizm5 jest obecnie dominującym poglądem w filozofii nauki. Niektórzy statystycy posunęli się dalej, przypuszczając lata temu, że statystyki bayesowskie będą dominującą statystyką XXI wieku. To, czy twierdzenie to może być uzasadnione, wykracza poza zakres niniejszego wprowadzenia. Jednak nie ma wątpliwości, że paradygmat Bayesowski odgrywał kluczową rolę w takich dyscyplinach, jak filozofia, statystyka, Informatyka, a nawet orzecznictwo.
Bayesianie dzielą się na kategorie subiektywne i obiektywne. Według wszystkich Bayezjan wiara agenta musi spełniać zasady rachunku prawdopodobieństwa. W przeciwnym razie, zgodnie ze znanym argumentem” księgi holenderskiej”, stopień wiary agenta jest niespójny. Subiektywni Bayesianie uważają tę (probabilistyczną) spójność za konieczny i wystarczający warunek racjonalności przekonań agenta, a następnie (zazwyczaj) twierdzą, że przekonania racjonalnych agentów będą się zbiegać w czasie. Celem naukowego wnioskowania i źródłem jego „obiektywności” jest zagwarantowanie spójności i zapewnienie konwergencji. Z drugiej strony, obiektywni Bayesianie zazwyczaj twierdzą, że chociaż warunek spójności jest konieczny, nie jest on również wystarczający dla rodzaju obiektywizmu, który ma umożliwić metodologia naukowa.
artykuł Paula Weiricha w tym tomie koncentruje się przede wszystkim na prawdopodobieństwie subiektywnym. Weirich opracował bayesowskie podejście do teorii decyzji, w którym rozważa, w jaki sposób przekonania agenta mogą zostać zmienione w świetle danych. Prawdopodobieństwa reprezentują stopień wiary agenta. Weirich ocenia kilka zarzutów przeciwko Bayesianom. Według jednego z rozważanych przez niego zastrzeżeń, Bayesianizm pozwala na to, aby stopnie wiary agenta były dowolne, o ile spełniają one Rachunek prawdopodobieństwa. Weirich uważa, że obiekcje sugerują, że bayesowskie prawdopodobieństwo subiektywne musi reprezentować idiosynkratyczne przekonania agenta. Odrzucił jednak permisywny Bayesianizm na rzecz swojej wersji Bayesianizmu. Pojęcie prawdopodobieństwa warunkowego, na którym opiera się zasada warunkowania, jest dla niego Centralne. Zgodnie z tą zasadą agent powinien aktualizować swój stopień wiary w hipotezę (H) W świetle danych (D) zgodnie z zasadą kondycjonalizacji, która mówi, że jej stopień wiary w h po poznaniu danych jest podany przez Prawdopodobieństwo warunkowe P(H|D) = P(H&D)/P(D), zakładając, że P(D) nie jest zerem. Weirich ocenia również zarzuty wniesione przeciwko stosowaniu zasady warunkowania. W końcu porównuje Bayesowską statystyczną teorię decyzji z klasyczną statystyką, kończąc swoją pracę oceną tej ostatniej.
jednym z głównych obszarów badań w filozofii nauki jest bayesowska teoria potwierdzenia. James Hawthorne przyjmuje Bayesowską teorię potwierdzenia, aby dostarczyć logiki tego, w jaki sposób dowody odróżniają się od konkurujących hipotez lub teorii. Twierdzi, że mylące jest utożsamianie bayesowskiej teorii potwierdzenia z subiektywnym rachunkiem prawdopodobieństwa. Raczej, każdy rachunek, który reprezentuje stopień, w jakim hipoteza jest poparta dowodami jako warunkowe prawdopodobieństwo hipotezy na dowodach, gdzie funkcja prawdopodobieństwa spełnia zwykłe aksjomaty probabilistyczne, będzie bayesowską teorią potwierdzenia, niezależnie od interpretacji pojęcia prawdopodobieństwa, którego używa. Na każdym takim rachunku twierdzenie Bayesa będzie bowiem wyrażać, w jaki sposób to, co hipotezy mówią o dowodach (poprzez prawdopodobieństwo) wpływa na stopień, w jakim hipotezy są poparte dowodami (poprzez prawdopodobieństwo tylne). Hawthorne twierdzi, że zwykle subiektywna interpretacja probabilistycznej funkcji potwierdzenia jest poważnie kwestionowana przez rozszerzone wersje problemu starych dowodów. Pokazuje on, że na zwykłej interpretacji subiektywistycznej nawet banalne informacje, które agent może dowiedzieć się o twierdzeniu dowodowym, mogą całkowicie podważyć obiektywizm rzekomych. W związku z tym, o ile domniemanie jest obiektywne (lub intersubiektywnie uzgodnione), funkcja potwierdzenia nie może nosić zwykłego odczytu subiektywistycznego. Hawthorne przyjmuje wcześniejsze prawdopodobieństwa, aby zależały od ocen wiarygodności, ale twierdzi, że takie oceny nie są jedynie subiektywne i że bayesowska teoria potwierdzenia nie jest poważnie upośledzona przez rodzaj subiektywności zaangażowanej w takie oceny. To ostatnie twierdzenie opiera na silnym wyniku konwergencji Bayesa, który nazywa twierdzeniem zbieżności współczynnika prawdopodobieństwa. Twierdzenie to zależy tylko od prawdopodobieństwa, a nie od wcześniejszych prawdopodobieństw; i jest to słabe prawo dużych liczb, które dostarcza wyraźnych granic na szybkość zbieżności. Pokazuje to, że wraz ze wzrostem dowodów, staje się wysoce prawdopodobne, że wyniki dowodowe będą takie, aby współczynniki prawdopodobieństwa zdecydowanie faworyzowały prawdziwą hipotezę w stosunku do każdego wyróżniającego się dowodowo konkurenta. Tak więc, dowolne dwie funkcje potwierdzenia (stosowane przez różnych agentów), które zgadzają się co do źródeł prawdopodobieństwa, ale różnią się od wcześniejszych prawdopodobieństw hipotez (pod warunkiem, że przed dla prawdziwej hipotezy nie jest zbyt blisko 0) będą miały tendencję do tworzenia współczynników prawdopodobieństwa, które przynoszą tylne prawdopodobieństwa zbiegają się w kierunku 0 dla fałszywych hipotez i w kierunku 1 dla prawdziwej alternatywy.6
John D. Norton stara się stanowić przeciwwagę dla dominującego obecnie poglądu, że bayesowskiej teorii potwierdzenia udało się znaleźć uniwersalną logikę, która rządzi dowodami i ich indukcyjnym oddziaływaniem w nauce. Pozwala, aby Bayesianie mieli dobre powody do optymizmu. Tam, gdzie wiele innych upadło, ich systemowi udaje się precyzyjnie określić rachunek różniczkowy, wyjaśnić indukcyjne Zasady innych rachunków i połączyć je w jedną spójną teorię. Jednak, jak twierdzi, jego dominacja pojawiła się dopiero niedawno w stuleciach bayesowskich teorii i może nie trwać dłużej, biorąc pod uwagę upór problemów, z którymi się boryka.
wiele problemów, które Norton identyfikuje dla bayesowskiej teorii potwierdzenia, dotyczy kwestii technicznych, które nasi czytelnicy mogą uznać za mniej lub bardziej niepokojące. Jego zdaniem najpoważniejsze wyzwanie wynika z dążenia Bayesa do dostarczenia pełnego opisu wnioskowania indukcyjnego, który śledzi nasze rozumowanie indukcyjne z powrotem do początkowego, neutralnego stanu, przed włączeniem jakichkolwiek dowodów. Tym, co pokonuje to dążenie, według Nortona, jest dobrze znany, oporny problem kapłanów, przedstawiony w dwóch formach w jego rozdziale. W jednej formie problem polega na tym, że tylny P(H|D&B), który wyraża indukcyjne Wsparcie danych D dla hipotezy h W połączeniu z informacjami podstawowymi B, jest całkowicie ustalony przez dwa „wcześniejsze” prawdopodobieństwa, P(H&D|B) I P(D|B). Jeśli ktoś jest subiektywistą i utrzymuje, że wcześniejsze prawdopodobieństwa można wybrać według kaprysu, z zastrzeżeniem tylko aksjomatów rachunku prawdopodobieństwa, to, według Nortona, tylne P(H|D&B) nigdy nie może być uwolnione od tych kaprysów. Lub jeśli ktoś jest obiektywistą i utrzymuje, że w każdej konkretnej sytuacji może być tylko jeden poprawny przeor, to, jak wyjaśniono w jego rozdziale, addytywność miary prawdopodobieństwa wyklucza przypisanie prawdziwie „bezinformacyjnych przeorów.”To jest na lepsze, według Nortona, ponieważ prawdziwie pozbawiony informacji przeor przydzieliłby tę samą wartość każdemu warunkowemu wnioskowi w algebrze. Funkcjonalna zależność posteriora od pierwowzorów wymusiłaby wtedy wszystkie nietrywialne posteriory do jednej, pozbawionej informacji wartości. Zatem rachunek Bayesowski może być nietrywialny, twierdzi Norton, tylko wtedy, gdy zaczyna się od bogatego wcześniejszego rozkładu prawdopodobieństwa, którego treść indukcyjna jest dostarczana przez inne, nie bayesowskie środki.
trzy prace w tomie badają możliwość pokazania rachunku Bayesa jako formy logiki. Colin Howson twierdzi, że Bayesianizm jest formą dedukcyjnej logiki wnioskowania, podczas gdy Roberto Festa i Jan-Willem Romeijn twierdzą, że teorię Bayesiańską można oddać w postaci wnioskowania indukcyjnego. Aby zbadać, czy rachunek Bayesa można uznać za formę wnioskowania dedukcyjnego, Howson pokrótce przygląda się wnioskowaniu naukowemu z ostatnich trzystu lat, a następnie skupia się na tym, dlaczego uważa, że wnioskowanie Bayesa powinno być uważane za formę czystej logiki wnioskowania. Biorąc pod uwagę debatę nad tym, czy wnioskowanie probabilistyczne można uznać za logikę spójności czy koherencji, omawia teorię prawdopodobieństwa de Finettiego, gdzie de Finetti wziął teorię prawdopodobieństwa, aby nic nie powiedzieć o świecie, ale traktuje ją jako „logikę niepewności.”Jednym z motywujących powodów do rozważenia, dlaczego wnioskowanie Bayesa powinno być traktowane jako logika czystej logiki, jest zwrócenie uwagi na jego niezgodę z rozróżnieniem Kyburga między wyrażeniem „spójność”, które ma zastosowanie do systemu, który nie zawiera dwóch niespójnych przekonań, a wyrażeniem „spójność”, które ma zastosowanie do stopni przekonań. Dla Howsona analogia z logiką dedukcyjną polega na tym, że ta ostatnia nakłada ograniczenia spójności na oceny prawdy i zasady teorii prawdopodobieństwa nakładające ograniczenia w stopniu wiary. Pozostała część pracy poświęcona jest rozwijaniu i interpretowaniu wnioskowania bayesowskiego jako formy czystej logiki wnioskowania.
zarówno Festa, jak i Romeijn żałują, że w ubiegłym wieku statystyki i wnioskowanie indukcyjne rozwijały się i rozwijały mniej lub bardziej niezależnie od siebie, bez wyraźnych oznak symbiozy. Festa przybliża statystykę Bayesowską i teorię prawdopodobieństwa indukcyjnego Carnapa i pokazuje, że pomimo ich różnych podstaw koncepcyjnych, metody wypracowane w tych ostatnich są zasadniczo identyczne z tymi stosowanymi w tych pierwszych. Twierdzi, że niektóre pojęcia i metody logiki indukcyjnej mogą być stosowane w racjonalnej rekonstrukcji kilku pojęć i procedur statystycznych. Według niego logika indukcyjna sugeruje kilka nowych metod, które można wykorzystać do różnego rodzaju wnioskowania statystycznego z uwzględnieniem rozważań analogicznych. Wreszcie Festa pokazuje, w jaki sposób bayesowska wersja przybliżenia prawdy może zostać opracowana i zintegrowana w ramy statystyczne.7
Romeijn bada również związek między statystyką a logiką indukcyjną. Chociaż logika indukcyjna i statystyka rozwinęły się oddzielnie, Romeijn uważa, podobnie jak Festa, że nadszedł czas, aby zbadać wzajemne powiązania między nimi. W swojej pracy bada, czy możliwe jest reprezentowanie różnych sposobów wnioskowania statystycznego w kategoriach logiki indukcyjnej. Romeijn rozważa trzy kluczowe idee w statystykach, aby stworzyć związek. Są to (i) Testowanie hipotezy Neymana-Pearsona (NPTH), (ii) szacowanie maksymalnego prawdopodobieństwa i (iii) statystyka Bayesa. Romeijn pokazuje, używając zarówno Karnapijskiej jak i bayesowskiej logiki indukcyjnej, że ostatnia z dwóch tych idei (tj., estymacja maksymalnego prawdopodobieństwa i statystyka Bayesa) może być naturalnie reprezentowana w kategoriach Nie ampliatywnej logiki indukcyjnej. W końcowej części jego rozdziału, NPTH jest połączona z Bayesowską logiką indukcyjną za pomocą prawdopodobieństwa opartego na interwałach nad hipotezami statystycznymi.
jak są subiektywni Bayesianie to są obiektywni Bayesianie. José Bernardo jest jednym z nich. Ponieważ wielu filozofów na ogół nie zdaje sobie sprawy z twórczości Bernardo, poświęcimy jej relatywnie dłuższą dyskusję. Bernardo pisze, że „t stało się standardową praktyką,…, opisywania jako „obiektywne” każdej analizy statystycznej, która zależy tylko od przyjętego modelu. W tym precyzyjnym sensie (i tylko w tym sensie) analiza odniesienia jest metodą wytworzenia „obiektywnego” wnioskowania bayesowskiego”.
Dla Bernardo analiza referencyjna, którą poparł w celu promowania swojej marki obiektywnego Bayesianizmu, powinna być rozumiana w kategoriach pewnego modelu parametrycznego postaci M≡{P (x / w), x∈X, w∈Ω}, który opisuje warunki, w których dane zostały wygenerowane. Tutaj przyjmuje się, że dane x składają się z jednej obserwacji losowego procesu X ∈ X z rozkładem prawdopodobieństwa P(x|w) dla jakiegoś w ∈ Ω. Model parametryczny jest instancją modelu statystycznego. Bernardo definiuje θ = θ (w) Θ Θ jako jakiś wektor zainteresowania. Wszystkie uzasadnione wnioskowania bayesowskie dotyczące wartości θ są przechwytywane w jej tylnym rozkładzie P(θ / x) λ λp(x|θ,λ)p(θ,λ)dλ pod warunkiem, że te wnioskowania są wykonane w założonym modelu. Tutaj λ jest pewnym wektorem parametrów uciążliwości i jest często określane jako „model” P (x / λ).
atrakcją tego rodzaju obiektywizmu jest nacisk na „analizę odniesienia”, która z pomocą narzędzi statystycznych poczyniła dalsze postępy w przekształcaniu tematu obiektywizmu w szanowaną szkołę statystyczną w ramach Bayesianizmu. Jak pisze Bernardo, „analizę eferencji można opisać jako metodę wyprowadzania opartych na modelu, nie subiektywnych posterów, opartą na ideach informacyjno-teoretycznych i mającą na celu opisanie wnioskującej treści danych do komunikacji naukowej”. Przez ” inferencyjną treść danych „rozumie on, że pierwsza z nich stanowi” podstawę dla metody wyprowadzania nie-subiektywnych następstw ” (Tamże). Na obiektywny Bayesianizm Bernardo składają się następujące twierdzenia
Po pierwsze, uważa, że podstawowe informacje agenta powinny pomóc badaczowi zbudować model statystyczny, stąd ostatecznie wpływ, który wcześniej ten ostatni powinien przypisać do modelu. Dlatego, chociaż Bernardo może popierać osiągnięcie unikalnej wartości prawdopodobieństwa jako celu, nie wymaga, abyśmy musieli mieć unikalne przypisanie prawdopodobieństwa we wszystkich kwestiach, które mamy do dyspozycji. Pisze: „on analityk ma mieć unikalny(często subiektywny) przed p (w), niezależnie od projektu eksperymentu, ale społeczność naukowa prawdopodobnie będzie zainteresowana porównaniem osobistego tylnego analityka z odniesieniem (konsensusem) tylnego związanego z opublikowanym projektem eksperymentalnym.” . Po drugie, dla Bernardo, Wnioskowanie statystyczne jest niczym innym, jak przypadkiem decydowania pomiędzy różnymi modelami / teoriami, gdzie decyzja obejmuje między innymi użyteczność działania w oparciu o założenie, że model/teoria jest empirycznie adekwatna. Tutaj użyteczność działania na empirycznej adekwatności danego modelu / teorii może wiązać się z pewną funkcją strat . W rozdziale poświęconym temu Tomowi opracował swoją wersję obiektywnego Bayesianizmu i odniósł się do kilku zarzutów podniesionych na jego koncie.
we wspólnym rozdziale Gregory Wheeler i Jon Williamson połączyli obiektywny Bayesianizm z dowodową teorią prawdopodobieństwa Kyburga. Ta pozycja Bayesianizmu lub jakiejkolwiek formy Bayesianizmu wydaje się sprzeczna z podejściem Kyburga do wnioskowania statystycznego, które opiera się na jego dowodowej teorii prawdopodobieństwa. Rozważymy jeden z argumentów Kyburga przeciwko Bayesianizmowi. Kyburg uważa, że nie powinniśmy traktować częściowych przekonań jako „stopni wiary”, ponieważ (ścisłe) Bayesianie (jak Savage) wiążą się z założeniem wyjątkowego prawdopodobieństwa propozycji. Omówił prawdopodobieństwo oparte na interwałach jako uchwycenie naszych częściowych przekonań o niepewności. Ponieważ prawdopodobieństwo oparte na przedziałach nie jest bayesowskie, wynika z tego, że nie wolno nam traktować częściowych przekonań jako stopni wiary. Biorąc pod uwagę tę opozycję pomiędzy poglądem Kyburga na prawdopodobieństwo i obiektywnym poglądem Bayesa, Wheeler i Williamson próbowali pokazać, jak podstawowe idee obu tych dwóch poglądów mogą być owocnie uwzględnione w jednym rachunku naukowego wnioskowania.
aby zakończyć naszą dyskusję na temat stanowiska bayesowskiego, pamiętając o przypisaniu przez Royalla pytania o wiarę Bayesjanom, wielu Bayesjanów miałoby mieszane uczucia co do tego przypisania. Do pewnego stopnia niektórzy z nich mogą uważać to za niewłaściwie proste myślenie. Howson zgodziłby się z tym przypisaniem, stwierdzając, że ominie to niektóre niuanse i subtelności teorii Bayesa. Zasadniczo podąża za linią de Finettiego, dokonując subiektywnych ocen prawdopodobieństwa. Oceny te są zwykle nazywane ” stopniami wiary.”Tak więc do tego stopnia uważa, że dla stopni wiary odgrywa zasadniczą rolę, ponieważ są one przecież tym, do czego odnosi się bezpośrednio funkcja prawdopodobieństwa. Dlatego według niego przypisanie pytania o wiarę Bayezjanom ma jakiś sens. Uważa jednak, że główna część teorii Bayesa polega na określeniu ograniczeń, które należy na nie nałożyć, aby zapewnić ich spójność/koherencję. Jego praca zapewniła ramy dla Bayesianizmu. Hawthorne może częściowo nie zgadzać się z Royallem, ponieważ jego twierdzenie o zbieżności współczynnika prawdopodobieństwa pokazuje, że w końcu różni agenci mogliby się zgodzić, chociaż mogliby bardzo dobrze zacząć od różnych stopni wiary w teorię. Zarówno Weirich, jak i Norton, mimo że należą do przeciwnych sobie obozów, jeśli chodzi o ich postawę wobec Bayezjanizmu, mogą się zgodzić, że przypisanie Royalla Bayezjanom jest jednak uzasadnione. W odniesieniu do kwestii przewidywania, wielu Bayezjan, w tym ci, którzy pracują w ramach teorii potwierdzenia, twierdzi, że konto potwierdzenia, które odpowiada na pytanie o wiarę, jest w stanie obsłużyć pytanie przewidywania, ponieważ dla Bayezjan ten ostatni jest podklasą pytania o wiarę.