Jak zinterpretować konkretny przedział, np. (45%, 65%)? Jak już zaproponowałem wyżej, możemy pomyśleć w taki sposób: uzyskaliśmy 55%, ale rzeczywista proporcja może być inna. Przedział ufności to zbiór rzeczywistych proporcji, które nie kłócą się z danymi, które zebraliśmy.
Zauważmy jednak, że w tej interpretacji w ogóle nie nawiązujemy do poziomu ufności, czyli 95%. Innymi słowy, taka interpretacja jest nieprecyzyjna. Jak jednak spróbuję uzasadnić, jeśli chcemy zinterpretować konkretny przedział ufności precyzyjnie, a zarazem praktycznie, jest to NIEWYKONALNE.
Absurdalne przedziały ufności
Zacznę od pewnego dość zaskakującego przykładu. Interesuje nas średnia wartość pewnej ciągłej cechy w populacji. Pobraliśmy próbę, otrzymując wartości x1, x2 itd. Proponuję taką PROCEDURĘ budowy przedziału. Biorę tylko dwie pierwsze wartości, resztę ignoruję. Jeśli x1 jest większe od x2, niech przedział będzie nieskończony, tzn. od minus do plus nieskończoności. W przeciwnym razie, niech przedział będzie zbiorem pustym.
Ponieważ próba jest losowa, to z prawdopodobieństwem 50% x1 będzie większe od x2, czyli otrzymamy przedział nieskończony. Szukana średnia oczywiście musi do takiego przedziału należeć. Z kolei z prawdopodobieństwem 50% otrzymamy zbiór pusty, który oczywiście nie może zawierać rzeczywistej średniej. Czyli w ten sposób otrzymamy przedział ufności na poziomie 50%.
Chcemy na wyższym? To oprócz x2 weźmy jeszcze obserwacje x3, x4 i x5 i sprawdzajmy, czy x1 jest większe od choć jednej z nich. Jeśli tak, to proponujemy nieskończony przedział ufności, w przeciwnym razie zbiór pusty. Prawdopodobieństwo, że wartość x1 jest mniejsza od wszystkich pozostałych, wynosi 1/2 do czwartej potęgi, czyli ok. 6%. Nas jednak interesuje zdarzenie przeciwne (x1 miało być mniejsze od choć jednej wartości), czyli jego prawdopodobieństwo wynosi 94%. A w takim razie otrzymaliśmy przedział na poziomie 94%.
Czy to są przedziały ufności?
Takie przedziały są oczywiście absurdalne i kompletnie bezużyteczne. Ale dlaczego mogłem je nazwać przedziałami ufności na poziomie 94%? Ponieważ jeśli będę stosował taką procedurę, to mam gwarancję (statystyczną), że w stu tak wyznaczonych przedziałach, średnio aż 94 będzie zawierać rzeczywistą wartość szukanego parametru.
Oczywiście w praktyce nikomu nie sprzedam takiej procedury. Chcemy, by przedziały były możliwie krótkie i symetryczne. I da się to osiągnąć przy tym samym warunku, tzn. tak by większość z nich zawierała rzeczywistą wartość parametru. Widać jednak, że samo takie „pokrycie” nie wystarczy, by przedział był pożyteczny.
Prawdopodobieństwo 95%?
Ale ten przykład pokazuje jeszcze inną, ważną rzecz. Że wbrew powszechnej opinii, jeśli wyznaczymy przedział (a, b) na poziomie 95%, wcale nie oznacza to, że „na 95% szukany parametr mieści się w takim przedziale”. Przecież na 100% należy on do przedziału (-∞, +∞), a na 0% do pustego przedziału, prawda?
Można powiedzieć, że to 95% to „średnie” prawdopodobieństwo przynależenia do jakiegoś przedziału.
I w ten sposób przechodzimy do sedna. Znając takie średnie prawdopodobieństwo, nie mogę nic powiedzieć o konkretnym. Nie należy mylić własności pewnej procedury z interpretacją czegoś, co przy jej pomocy powstało. Przedziały wyznaczone w klasyczny, niebayesowski sposób są nieinterpretowalne.
Gdy były proponowane, nie o interpretację chodziło, ale o gwarancję, że postępując w pewien konkretny sposób, rzadko będziemy się mylić. Rzecz nie w tym, że z dużym prawdopodobieństwem dany przedział ma zawierać szukany parametr. Po prostu DECYDUJEMY się postępować dalej, jakby taki przedział zawierał rzeczywistą wartość. I mamy silne argumenty, że jest to dobra STRATEGIA.
Jerzy Neyman
Ten akapit wyżej to prawie cytat z oryginalnej pracy Jerzego Neymana (z 1941 roku!), który zaproponował klasyczne przedziały ufności:
It is not suggested that we can ‘conclude’ that [the interval contains θ], nor that we should ‘believe’ that [the interval contains θ]…[we] decide to behave as if we actually knew that the true value [is in the interval]. This is done as a result of our decision and has nothing to do with ‘reasoning’ or ‘conclusion’. The reasoning ended when the [confidence procedure was derived].
Polecam też tę publikację, z której wziąłem przykład z tym absurdalnym przedziałem ufności (trochę go zmodyfikowałem) oraz cytat z Neymana.
Jak żyć z przedziałami ufności?
Napisałem wyżej o „decydowaniu”, że obliczony przedział zawiera rzeczywistą wartość. Ale chciałem jedynie przedstawić podejście, które leżało u podstaw tej konkretnej (i obecnie najpopularniejszej) metody konstrukcji przedziałów ufności. W praktyce nie muszę przejmować się, że dany przedział ufności zawiera lub nie np. proporcję 50% — i bardziej ufać swojej wiedzy eksperckiej. I to jest jak najbardziej w porządku.
I co ważne, ten artykuł nie miał na celu wykazania, że przedziały ufności wyznaczane w klasyczny sposób są kiepskie. Przeciwnie. Trzeba jednak pamiętać, że jeśli żądamy interpretacji, to ma ją jedynie cała procedura, a nie konkretny przedział. A dokładniej, problem polega na tym, że nie jesteśmy w stanie odnieść poziomu ufności (np. 95%) do konkretnego przedziału. I choć jest to niestety powszechna praktyka, to buntujmy się i nie próbujmy tego robić.
