Mathematische Statistik – Konfidenzintervalle und Hypothesenthests

Konfidenzintervalle

Bemerkung: Die Angabe eines Schätzwertes für einen unbekannten Parameter allein ist häufig noch nicht befriedigend. Konfidenzintervalle liefern zusätzlich noch ein Maß für die Präzision des Schätzers. Im Folgenden sei \(T(X)\) ein Schätzer für \(q(\theta )\).

Konfidenzintervall:  Zwei Statistiken \(\Tu = \Tu (X)\) und \(\To = \To (X)\) mit \(\Tu \le \To \) definieren ein \((1 - \alpha )\)-Konfidenzintervall (KI) für \(q(\theta )\) zum Konfidenzniveau \((1 - \alpha ) \in (0, 1)\), falls
\(\forall _{\theta \in \Theta }\; \PP _\theta (q(\theta ) \in [\Tu (X), \To (X)]) \ge 1 - \alpha \).

Bemerkung: Ist \(x\) eine Realisierung von \(X\), so ist \([\Tu (x), \To (x)]\) ein sog. konkretes \((1 - \alpha )\)-Konfidenzintervall für \(q(\theta )\). Eine typische Fehlvorstellung ist, dass mit Wahrscheinlichkeit \((1 - \alpha )\) gelten würde, dass \(q(\theta ) \in [\Tu (x), \To (x)]\). Dies ist unsinnig, da die Aussage „\(q(\theta ) \in [\Tu (x), \To (x)]\)“ für eine konkrete Beobachtung \(x\) entweder wahr oder falsch ist. Die richtige Interpretation ist folgende: Sind \(x_1, \dotsc , x_n\) \(n\) Beobachtungen von \(n\) i.i.d. Zufallsvariablen mit derselben Verteilung wie \(X\), so erwartet man, dass \(q(\theta ) \in [\Tu (x_i), \To (x_i)]\) für mindestens ca. \((1 - \alpha )n\) der \(i \in \{1, \dotsc , n\}\) wahr ist.

Quantil:  Ist \(X\) eine reelle Zufallsvariable und \(F_X\) ihre Verteilungsfunktion, so heißt
\(F_X^{-1}\colon (0, 1) \rightarrow \real \) mit \(F_X^{-1}(p) := \inf \{x \in \real \;|\; F_X(x) \ge p\}\) Quantilfunktion von \(X\).
Das Bild \(F_X^{-1}(p)\) einer Zahl \(p \in (0, 1)\) heißt \(p\)-Quantil von \(X\).

Beispiel: Seien \(X_1, \dotsc , X_n \sim \N (\theta , \sigma ^2)\) i.i.d. mit bekannter Varianz \(\sigma ^2\). Dann gilt mit dem \((1 - \alpha /2)\)-Quantil \(z_{1-\alpha /2}\) der Standard-Normalverteilung, dass \(1 - \alpha = \PP _\theta \!\left (\left |\frac {\overline {X} - \theta }{\sigma /\sqrt {n}}\right | \le z_{1-\alpha /2}\right )\), denn die Zufallsvariable zwischen den Betragsstrichen ist \(\N (0, 1)\)-verteilt. Das entspricht
\(\PP _\theta \!\left (\overline {X} - \frac {\sigma }{\sqrt {n}} z_{1-\alpha /2} \le \theta \le \overline {X} + \frac {\sigma }{\sqrt {n}} z_{1-\alpha /2}\right ) = \PP _\theta (\theta \in [\Tu (X), \To (X)])\) mit \(\Tu (X) := \overline {X} - \frac {\sigma }{\sqrt {n}} z_{1-\alpha /2}\) und \(\To (X) := \overline {X} + \frac {\sigma }{\sqrt {n}} z_{1-\alpha /2}\). Man schreibt kurz, dass \(\overline {X} \pm \frac {\sigma }{\sqrt {n}} z_{1-\alpha /2}\) ein \((1 - \alpha )\)-Konfidenzintervall für den unbekannten Parameter \(\theta \) ist.
Für \(n = 9\), \(\sigma ^2 = 4\), \(\alpha = \num {0.05}\) mit \(\overline {x} = \num {1.5}\) ist \(z_{1-\alpha /2} = z_{0.975} \approx \num {1.96}\), d. h.
\(\num {1.5} \pm \frac {2}{3} \cdot \num {1.96} \approx [\num {0.19}, \num {2.81}]\) ist ein konkretes \(\SI {95}{\percent }\)-KI für den Erwartungswert \(\theta \).

Bemerkung:
Ein Konfidenzintervall \([\Tu (X), \To (X)]\) für \(q(\theta )\) sollte sinnvollerweise einige Kriterien erfüllen:

• \(\EE _\theta (\To (X) - \Tu (X))\) sollte so klein wie möglich sein.

• \(\PP _\theta (q(\theta ) \in [\Tu (X), \To (X)])\) sollte unabhängig von \(\theta \) sein.

Pivot-Statistik:  Eine Statistik \(G = G(X, \theta )\) heißt Pivot (oder Pivot-Statistik), falls deren Verteilung unabhängig von \(\theta \) ist.

Beispiel: Die Verteilung von \(G(X, \theta ) := \frac {\overline {X} - \theta }{\sigma /\sqrt {n}} \sim \N (0, 1)\) in obigem Beispiel ist unabhängig von \(\theta \), damit ist \(G\) eine Pivot-Statistik.

Bemerkung: Ähnlich wie bei der Frage nach der Existenz von gleichmäßig optimalen Schätzern existieren im Allgemeinen keine (gleichmäßig) kleinsten Konfidenzintervalle. Deshalb schränkt man sich auf unverzerrte Konfidenzintervalle ein.

unverzerrtes Konfidenzintervall:  Ein \((1 - \alpha )\)-Konfidenzintervall \([\Tu , \To ]\) für \(q(\theta )\) heißt unverzerrt, falls \(\forall _{\theta , \theta ’ \in \Theta }\; \PP _\theta (q(\theta ) \in [\Tu (X), \To (X)]) \ge \PP _\theta (q(\theta ’) \in [\Tu (X), \To (X)])\), d. h. die Wahrscheinlichkeit, dass ein unverzerrtes KI den wahren Wert \(q(\theta )\) einfängt, darf nicht kleiner sein als die Wahrscheinlichkeit, dass dieses KI einen anderen Wert \(q(\theta ’)\) einfängt.

Beispiel: Setzt man obiges Beispiel fort, so gilt
\(\PP _\theta \!\left (\theta ’ \in \overline {X} \pm \frac {\sigma }{\sqrt {n}} z_{1-\alpha /2}\right ) = \PP _\theta \!\left (\frac {\overline {X} - \theta }{\sigma /\sqrt {n}} \in \frac {\theta ’ - \theta }{\sigma /\sqrt {n}} \pm z_{1-\alpha /2}\right ) = \Phi (x + c) - \Phi (x - c)\) mit \(x := \frac {\theta ’ - \theta }{\sigma /\sqrt {n}}\) und \(c := z_{1-\alpha /2}\), da \(\frac {\overline {X} - \theta }{\sigma /\sqrt {n}} \sim \N (0, 1)\). Für festgehaltenes \(c > 0\) ist \(f(x) := \Phi (x + c) - \Phi (x - c)\) maximal für \(x = 0\), denn \(f’(x) = \frac {1}{\sqrt {2\pi }} \left (\exp \!\left (-\frac {(x+c)^2}{2}\right ) - \exp \!\left (-\frac {(x-c)^2}{2}\right )\right ) = 0\) gilt genau dann, wenn \(x = 0\). Wegen \(f’’(0) = \frac {1}{\sqrt {2\pi }} \left (-c \exp \!\left (-\frac {c^2}{2}\right ) - c \exp \!\left (-\frac {c^2}{2}\right )\right ) = -2c \varphi (c) < 0\) (da \(c > 0\) und \(\varphi (c) > 0\)) ist \(f(x)\) maximal für \(x = 0\). Daher ist das Konfidenzintervall \(\overline {X} \pm \frac {\sigma }{\sqrt {n}} z_{1-\alpha /2}\) unverzerrt.

Beispiel: Seien nun \(X_1, \dotsc , X_n \sim \N (\mu , \sigma ^2)\) i.i.d. mit \(\mu \) und \(\sigma ^2\) unbekannt, also \(\theta = (\mu , \sigma ^2)\). Gesucht ist wieder ein Konfidenzintervall für den Erwartungswert \(\mu \). Definiert man \(S_n^2 := \frac {1}{n-1} \sum _{i=1}^n (X_i - \overline {X})^2\) als Stichprobenvarianz, dann kann man zeigen, dass \(\overline {X}_n\) und \(S_n^2\) unabhängige Zufallsvariablen sind. Damit sind Zähler und Nenner in \(T(X) := \frac {\sqrt {n} (\overline {X}_n - \mu )}{S_n} = \frac {\sqrt {n} (\overline {X}_n - \mu )/\sigma }{\sqrt {1/(n-1) \cdot (n-1) S_n^2/\sigma ^2}}\) auch stochastisch unabhängig, wobei der Zähler standard-normalverteilt und \(\frac {(n-1)S_n^2}{\sigma ^2} \sim \chi _{n-1}^2\) (Verteilung von \(Z_1^2 + \dotsb + Z_n^2\) mit \(Z_1, \dotsc , Z_n \sim \N (0,1)\) i.i.d.). Daher genügt der Quotient \(T(X)\) einer speziellen Verteilung, der sog. studentschen \(t\)-Verteilung \(t_{n-1}\). \(T(X)\) ist unabhängig von \(\theta \) und damit eine Pivot-Statistik. Mit dem \((1 - \alpha /2)\)-Quantil \(t_{n-1,1-\alpha /2}\) der \(t_{n-1}\)-Verteilung gilt damit \(1 - \alpha = \PP _\theta \!\left (\left |\frac {\overline {X} - \mu }{S_n/\sqrt {n}}\right | \le t_{n-1,1-\alpha /2}\right ) = \PP _\theta (\mu \in [\Tu (X), \To (X)])\) (durch Auflösen nach \(\mu \)) mit \([\Tu (X), \To (X)] := \overline {X} \pm \frac {S_n}{\sqrt {n}} t_{n-1,1-\alpha /2}\), d. h. dieses Zufallsintervall ist ein \((1 - \alpha )\)-Konfidenzintervall für \(\mu \).

Beispiel: Seien nun \(X_1, \dotsc , X_n \sim \Bin (1, \theta )\) i.i.d. Gesucht ist ein (approximatives) \((1 - \alpha )\)-Konfidenzintervall für \(\theta \). Der zentrale Grenzwertsatz besagt
\(\frac {\overline {X}_n - \theta }{\sqrt {\theta (1 - \theta )}/\sqrt {n}} \xrightarrow {\text {(d)}} \N (0, 1)\text {-verteilte ZV}\), d. h. \(1 - \alpha \approx \PP _\theta \!\left (\left |\frac {\overline {X}_n - \theta } {\sqrt {\theta (1 - \theta )}/\sqrt {n}}\right | \le z_{1-\alpha /2}\right )\)
\(= \PP _\theta (n (\overline {X}_n - \theta )^2 \le (z_{1-\alpha /2})^2 \theta (1 - \theta ))\)
\(= \PP _\theta (n (\overline {X}_n)^2 - \theta (2n \overline {X}_n + (z_{1-\alpha /2})^2) + \theta ^2 (n + (z_{1-\alpha /2})^2) \le 0) = \PP _\theta (\theta \in [\Tu (X), \To (X)])\)
für bestimmte \(\Tu (X), \To (X)\) (der Ausdruck ist eine nach oben geöffnete Parabel, d. h. \(\Tu (X)\) und \(\To (X)\) sind die Nullstellen der Parabel). Damit erhält man ein approximatives \((1 - \alpha )\)-Konfidenzintervall für \(\theta \). Als Faustregel gilt, dass dieses KI brauchbar ist, wenn \(n\theta \ge 5\) und \(n(1-\theta ) \ge 5\) (denn dann ist die Approximation durch den zentralen GW-Satz brauchbar).

Ein alternatives approximatives \((1 - \alpha )\)-Konfidenzintervall erhält man durch Schätzung von \(\theta \) durch \(\overline {X}_n\). Damit ist \((1 - \alpha ) \approx \PP _\theta \!\left (\left |\frac {\overline {X}_n - \theta } {\sqrt {\theta (1 - \theta )}/\sqrt {n}}\right | \le z_{1-\alpha /2}\right ) \approx \PP _\theta \!\left (\left |\frac {\overline {X}_n - \theta } {\sqrt {\overline {X}_n (1 - \overline {X}_n)}/\sqrt {n}}\right | \le z_{1-\alpha /2}\right )\)
\(\PP _\theta \!\left (\theta \in \overline {X}_n \pm \frac {\sqrt {\overline {X}_n (1 - \overline {X}_n)}}{\sqrt {n}} z_{1 - \alpha /2}\right )\). Damit ist \(\overline {X}_n \pm \frac {\sqrt {\overline {X}_n (1 - \overline {X}_n)}}{\sqrt {n}} z_{1 - \alpha /2}\) ein approximatives \((1 - \alpha )\)-Konfidenzintervall für \(\theta \).

Bemerkung: Unter Verwendung von Statistik-Software kann auch ein exaktes \((1 - \alpha )\)-Konfidenzintervall für \(\theta \) berechnet werden.

rechteckiger Konfidenzbereich: 
Ist \(q(\theta ) = (q_1(\theta ), \dotsc , q_r(\theta ))\) vektorwertig, so ist das Zufallsrechteck
\(I(X) := \{t \in \real ^r \;|\; \forall _{j=1,\dotsc , r}\; t_j \in [\Tu _j(X), \To _j(X)]\} = [\Tu _1(X), \To _1(X)] \times \dotsb \times [\Tu _r(X), \To _r(X)]\) basierend auf den Statistiken \(\Tu _j\) und \(\To _j\) (\(j = 1, \dotsc , r\)) ein rechteckiger \((1 - \alpha )\)-Konfidenzbereich für \(q(\theta )\), falls \(\forall _{\theta \in \Theta }\; \PP _\theta (q(\theta ) \in I(X)) \ge 1 - \alpha \).

Bemerkung: Gegeben seien \((1 - \alpha _j)\)-Konfidenzintervalle \(I_j(X) := [\Tu _j(X), \To _j(X)]\) für \(q_j(\theta )\) (\(j = 1, \dotsc , r\)), wobei die Konfidenzniveaus \(1 - \alpha _j\) noch allgemein und beliebig sein sollen. Definiert man \(I(X) := I_1(X) \times \dotsb \times I_r(X)\), so kann man Bedingungen an die \(\alpha _j\) stellen, damit das Zufallsrechteck \(I(X)\) für ein gegebenes \(\alpha \) ein rechteckiger \((1 - \alpha )\)-Konfidenzbereich für \(q(\theta )\) ist:

• Seien \(I_1(X), \dotsc , I_r(X)\) stochastisch unabhängig, so gilt
  \(\PP _\theta (q(\theta ) \in I(X)) = \PP _\theta (q_1(\theta ) \in I_1(X), \dotsc , q_r(\theta ) \in I_r(X)) = \prod _{j=1}^r \PP _\theta (q_j(\theta ) \in I_j(X))\)
  \(\ge \prod _{j=1}^r (1 - \alpha _j)\), weil die \(I_j(X)\) \((1 - \alpha _j)\)-KIe für \(q_j(\theta )\) sind. Dies ist größer oder gleich als \(1 - \alpha \), wenn \(1 - \alpha _j := (1 - \alpha )^{1/r}\) gewählt wird.

• Sind die \(I_1(X), \dotsc I_r(X)\) nicht notwendigerweise stochastisch unabhängig, so gilt
  \(\PP _\theta (q(\theta ) \in I(X)) = 1 - \PP _\theta (q_1(\theta ) \notin I_1(X) \lor \dotsb \lor q_r(\theta ) \notin I_r(X))\)
  \(\ge 1 - \sum _{j=1}^r \PP _\theta (q_j(\theta ) \notin I_j(X)) \ge 1 - \sum _{j=1}^r \alpha _j\), da \(\PP _\theta (q_j(\theta ) \notin I_j(X)) \le \alpha _j\). Dies ist größer oder gleich als \(1 - \alpha \), falls \(\alpha _j := \frac {\alpha }{r}\) gewählt wird.

Bemerkung: Beim bayesianischen Ansatz ist \(\theta \) eine Zufallsvariable, wobei \(\theta \sim \pi \) mit der a-priori-Dichte \(\pi \) (Zähl-/L.-B.-Dichte). \(X|\theta \sim p(\cdot |\theta )\) ist die sogenannte Likelihood von \(X\) und \(\theta |X=x \sim p(\cdot ,x)\) der a-posteriori-Dichte. Die a-posteriori-Dichte berechnet sich nach der Formel von Bayes \(p(\cdot |x) = \frac {\pi (\theta ) p(x|\theta )}{m(x)}\) mit \(m(x) := \sum _{\theta _i’} \pi (\theta _i’) p(\theta _i’|x)\) bzw. \(m(x) := \int \pi (\theta ’) p(\theta ’|x) \d \theta ’\) (falls \(\theta \) diskret bzw. stetig verteilt ist).

Ein bayesianischer Intervallschätzer (auch credible interval) für \(\theta \) basierend auf der Beobachtung \(x\) ist dann jedes von \(x\) abhängige Intervall, das den (beliebigen) Wert \(\theta \) mindestens mit Wahrscheinlichkeit \((1 - \alpha )\) überdeckt.

bayesianischer Intervallschätzer:  Ein bayesianischer Intervallschätzer für \(\theta \) zum Niveau \((1 - \alpha )\) ist ein (zufallsabhängiges) Intervall \([\Tu , \To ]\) mit \(\PP (\theta \in [\Tu (X), \To (X)]|X=x) \ge 1 - \alpha \).

Bemerkung: Dabei sind \(\theta \) und \(X\) zufallsabhängig. Im klassischen Ansatz eines (frequentistischen) Konfidenzintervalls ist diese Wahrscheinlichkeit sinnlos, da entweder \(= 0\) oder \(= 1\).

Das Testen von Hypothesen

Bemerkung: Mit einem Schätzverfahren kann z. B. die Erfolgswahrscheinlichkeit einer Therapie geschätzt werden. Häufig ist man aber eher an der Frage interessiert, ob eine neue Therapie besser ist als eine Standard-Therapie. Diese Frage kann jedoch meist nicht absolut beantwortet werden, die Wahrscheinlichkeit für eine Fehlentscheidung muss akzeptiert werden.

Null-/Alternativhypothese:  Sei \(\P = \{\PP _\theta \;|\; \theta \in \Theta \}\) ein statistisches Modell mit einer Zerlegung \(\Theta := \Theta _0 \mathbin {\dot {\cup }} \Theta _1\) des Parameterraums, wobei \(\Theta _0, \Theta _1 \not = \emptyset \). Dann heißt die Aussage \(H_0\colon \theta \in \Theta _0\) Nullhypothese und \(H_1\colon \theta \in \Theta _1\) Alternativhypothese.

Bemerkung: Die zu widerlegende Hypothese wird normalerweise als Nullhypothese formuliert (wegen engl. to nullify = widerlegen).

einfache/zusammengesetzte Hypothese:  Besteht \(\Theta _0\) nur aus einem Element \(\theta _0\), so heißt \(H_0\) einfache Hypothese, andernfalls heißt \(H_0\) zusammengesetzte Hypothese.

einseitige/zweiseitige Hypothese: 
Ist \(\Theta \subset \real \) und \(\Theta _1 = \{\theta \in \Theta \;|\; \theta \not = \theta _0\}\), so heißt \(H_1\) zweiseitige Hypothese.
Im Fall \(\Theta _1 = \{\theta \in \Theta \;|\; \theta > \theta _0\}\) bzw. \(\Theta _1 = \{\theta \in \Theta \;|\; \theta < \theta _0\}\) heißt \(H_1\) einseitige Hypothese (genauer rechts- bzw. linksseitig).

Hypothesentest:  Ein (statistischer) Hypothesentest (oder Test) \(\delta \) ist eine messbare Funktion \(\delta \colon \X \rightarrow [0, 1]\). Dabei bedeutet \(\delta (X) = 0\), dass die Nullhypothese akzeptiert wird, und \(\delta (X) = 1\), dass die Nullhypothese verworfen wird.

kritischer Bereich: 
Die Menge \(\{x \in \X \;|\; \delta (x) = 1\}\) heißt kritischer Bereich (Verwerfungsbereich) von \(\delta \).

kritischer Wert: 
Ist \(T(X)\) eine Statistik mit \(\delta (X) = \1_{\{T(X) \ge c\}}\), so heißt \(c\) kritischer Wert des Tests \(\delta \).

Bemerkung: Gemäß obiger Definition ist auch \(\delta (X) = p \in (0, 1)\) zulässig. In diesem Fall wählt man \(Y \sim \Bin (1, p)\) unabhängig von \(X\) und entscheidet für \(H_0\), falls \(Y = 0\), und für \(H_1\) sonst. Dies nennt man randomisierten Test, da er nicht nur von den Daten, sondern auch vom Ausgang eines weiteren Zufallsexperiments abhängt. Die Untersuchung randomisierter Tests hat vorwiegend theoretische Gründe und wird im nächsten Kapitel diskutiert.

Beispiel: Um die Wirksamkeit eines neuen Medikaments zu testen, sei bekannt, dass \(\SI {20}{\percent }\) ohne Medikament gesund werden, d. h. \(X_1, \dotsc , X_n \sim \Bin (1, \theta )\) i.i.d. Die Hypothesen lauten \(H_0\colon \theta = \theta _0\) vs. \(H_1\colon \theta > \theta _0\) mit \(\theta _0 := \num {0.2}\). Ist \(\overline {X}\) (relative Häufigkeit einer Heilung) „deutlich“ größer als \(\num {0.2}\), so spricht dies eher für \(H_1\). Man betrachtet also den Hypothesentest \(\delta _k(X) := 1\), falls \(n\overline {X} = \sum _{i=1}^n X_i \ge k\), und \(\delta _k(X) := 0\) sonst. Die Frage ist, welches \(k\) man wählen soll.

Bemerkung: Folgende Tabelle stellt die möglichen Entscheidungen dar.

Da die Ablehnung von \(H_0\) das Ziel des Tests ist, wird eine fälschliche Ablehnung von \(H_0\) als gravierender angesehen als eine fälschliche Beibehaltung von \(H_0\). Man verfährt daher folgendermaßen: Zunächst betrachtet man nur die Hypothesentests, deren Wahrscheinlichkeit für einen Fehler 1. Art ein Niveau \(\alpha \) nicht überschreitet. Unter diesen Tests sucht man dann denjenigen, sodass die Wahrscheinlichkeit für einen Fehler 2. Art minimal ist.

Gütefunktion: 
Die Gütefunktion \(G_\delta \colon \Theta \rightarrow [0, 1]\) des Tests \(\delta \) ist definiert durch \(G_\delta (\theta ) := \EE _\theta (\delta (X))\).

Bemerkung: Ist \(\delta \) ein nicht-randomisierter Test (d. h. \(\delta \in \{0, 1\}\)), so gilt für einen gegebenen Parameter \(\theta \in \Theta \), dass \(G_\delta (\theta ) = \text {(W.keit für Fehler 1. Art)}\), falls \(\theta \in \Theta _0\), und
\(G_\delta (\theta ) = 1 - \text {(W.keit für Fehler 2. Art)}\), falls \(\theta \in \Theta _1\).

Test zum Niveau \(\alpha \)/Level-\(\alpha \)-Test: 
Gilt für einen Test \(\delta \), dass \(\sup _{\theta \in \Theta _0} G_\delta (\theta ) \le \alpha \), so heißt \(\delta \) Test zum Niveau \(\alpha \).
Gilt sogar \(\sup _{\theta \in \Theta _0} G_\delta (\theta ) = \alpha \), so heißt \(\delta \) Level-\(\alpha \)-Test.

Beispiel: Bei obigem Beispiel ist die Wahrscheinlichkeit für einen Fehler 1. Art gleich
\(\PP _{\theta _0}(\delta _k(X) = 1) = \PP _{\theta _0}(\sum _{i=1}^n X_i \ge k) = \sum _{j=k}^n \binom {n}{j} \theta _0^j (1-\theta _0)^{n-j}\). Die Wahrscheinlichkeit für einen Fehler 2. Art ist gleich \(\PP _\theta (\delta _k(X) = 0) = \PP _\theta (\sum _{i=1}^n X_i < k) = \sum _{j=0}^{k-1} \binom {n}{j} \theta ^j (1-\theta )^{n-j}\) (abhängig von \(\theta \)). Die Gütefunktion ist gleich \(G_{\delta _k}(\theta ) = \PP _\theta (\delta _k(X) = 1) = \sum _{j=k}^n \binom {n}{j} \theta ^j (1-\theta )^{n-j}\) für \(\theta \in \Theta := (0, 1)\). Bei gegebenen Signifikanzniveau \(\alpha \) wählt man nun \(k\) als das kleinste \(k_0\), sodass für die Fehlerwahrscheinlichkeit 1. Art \(\PP _{\theta _0}(\delta _{k_0}(X) = 1) \le \alpha \) gilt. Dies ist äquivalent zu
\(\PP _{\theta _0}(\overline {X} \ge k_0/n) \le \alpha \). Durch die Normierung \(\sqrt {\frac {n}{\theta (1-\theta _0)}} (\overline {X} - \theta _0)\) mit \(\EE _{\theta _0}(X_i) = \theta \) und \(\Var _{\theta _0}(X_i) = \theta _0(1-\theta _0)\) kann man den zentralen Grenzwertsatz anwenden, der besagt, dass diese Zufallsvariable in Verteilung gegen eine \(\N (0,1)\)-verteilte Zufallsvariable konvergiert. Daher ist
\(\PP _{\theta _0}(\overline {X} \ge k/n) = \PP _{\theta _0}\!\left (\sqrt {\frac {n}{\theta _0(1-\theta _0)}} (\overline {X} - \theta _0) \ge \sqrt {\frac {n}{\theta (1-\theta _0)}} (k_0/n - \theta _0)\right )\)
\(\approx 1 - \Phi \!\left (\sqrt {\frac {n}{\theta _0(1-\theta _0)}} (k_0/n - \theta _0)\right ) = 1 - \Phi \!\left (\frac {k_0 - n \theta _0}{\sqrt {n \theta _0(1-\theta _0)}}\right )\). Eine bessere Approximation für kleine \(n\) erhält man, indem man im Zähler die sog. Stetigkeitskorrektur \(- \num {0.5}\) anfügt. Faustregel: Die Approximation ist brauchbar, wenn \(n\theta _0 \ge 5\) und \(n(1 - \theta _0) \ge 5\). Es gilt nun
\(1 - \Phi \!\left (\frac {k_0 - n \theta _0 - \num {0.5}} {\sqrt {n \theta _0(1-\theta _0)}}\right ) \le \alpha \iff \frac {k_0 - n \theta _0 - \num {0.5}}{\sqrt {n \theta _0(1-\theta _0)}} \ge z_{1-\alpha } \iff k_0 \ge n\theta _0 + \num {0,5} + z_{1-\alpha } \sqrt {n \theta _0(1-\theta _0)}\).
Damit ist \(\delta _{k_0}(X) = \1_{\{\sum _{i=1}^n X_i > k_0\}}\) ein Test zum approximativen Niveau \(\alpha \) für \(H_0\colon \theta \le \theta _0\) vs. \(H_1\colon \theta > \theta _0\). Mit R kann auch ein exakter Binomialtest zum Niveau \(\alpha \) durchgeführt werden.

Beispiel: Beim einseitigen Gauß-Test für \(\mu \) liegen \(X_1, \dotsc , X_n \sim \N (\mu , \sigma ^2)\) i.i.d. mit \(\sigma ^2\) bekannt vor. Das Hypothesenpaar lautet \(H_0\colon \mu \le \mu _0\) vs. \(H_1\colon \mu > \mu _0\). Wenn \(\overline {X}\) „groß“ ist, so spricht dies eher für \(H_1\). Daher wählt man \(\delta _c(X) := \1_{\{\overline {X} \ge c\}}\). Die Gütefunktion dieses Tests ist
\(G_{\delta _c}(\mu ) = \PP _\mu (\delta _c(X) = 1) = \PP _\mu \!\left (\frac {\overline {X} - \mu }{\sigma /\sqrt {n}} \ge \frac {c - \mu }{\sigma /\sqrt {n}}\right ) = 1 - \Phi \!\left (\frac {c - \mu }{\sigma /\sqrt {n}}\right )\).
Damit ist \(\sup _{\mu \in \Theta _0} G_{\delta _c}(\mu ) = 1 - \Phi \!\left (\frac {c - \mu _0}{\sigma /\sqrt {n}}\right ) \overset {!}{=} \alpha \) für einen Level-\(\alpha \)-Test, was äquivalent ist zu \(c = \mu _0 + \frac {\sigma }{\sqrt {n}} z_{1-\alpha }\). Mit diesem Wert ist also \(\delta _c\) ein Level-\(\alpha \)-Test für \(H_0\) vs. \(H_1\).
Der Verlauf der Gütefunktion \(G_{\delta _c}(\mu )\) ist eine Kurve ähnlich der der Verteilungsfunktion, die in \(\mu = \mu _0\) durch \(G_{\delta _c}(\mu _0)\) läuft. Für größeren Stichprobenumfang (oder alternativ kleinere Varianz) ist der Verlauf wesentlich steiler.

Bemerkung: Um die Wahl eines konkreten Signifikanzniveaus nicht vorwegzunehmen, wurde der sog. \(p\)-Wert (Überschreitungswert) eingeführt als das kleinste Niveau \(\alpha \), zu dem die Nullhypothese gerade noch abgelehnt werden kann.

\(p\)-Wert:  Ist \(\delta = \delta ^\alpha \) ein Test zum Niveau \(\alpha \in (0, 1)\) mit kritischem Bereich
\(K^\alpha := \{x \in \X \;|\; \delta ^\alpha (x) = 1\}\), wobei \(K^\alpha \subset K^{\alpha ’}\) für \(\alpha < \alpha ’\) gelten soll, dann heißt
\(p(X) := \inf \{\alpha \in (0,1) \;|\; X \in K^\alpha \}\) \(p\)-Wert des Tests \(\delta \).

Bemerkung: Der \(p\)-Wert \(p(X)\) ist also selbst eine Zufallsvariable. Er wird häufig auch als Maß für die Evidenz gegen die Nullhypothese interpretiert. Allerdings kann man zeigen, dass \(p(X) \sim \U ((0, 1))\), falls \(H_0\) gilt.
Für Tests der Form \(\delta (X) := \1_{\{T(X) \ge c\}}\) lautet eine alternative Definition wie folgt:
\(p(x) := \sup _{\theta \in \Theta _0} \PP _\theta (T(X) \ge T(x))\) (wobei \(\sup _{\theta \in \Theta _0} \PP _\theta (T(X) \ge c)\) die größte Fehlerwahrscheinlichkeit 1. Art ist, die bei einem bestimmten \(c\) auftreten kann).

Beispiel: Beim einseitigen Gauß-Test gilt \(\delta (x) = 1 \iff \overline {x} - \mu _0 \ge \frac {\sigma }{\sqrt {n}} z_{1-\alpha } = \frac {\sigma }{\sqrt {n}} \Phi ^{-1}(1-\alpha )\)
\(\iff 1 - \alpha \ge \Phi \!\left (\frac {\overline {x} - \mu _0}{\sigma /\sqrt {n}}\right )\). Damit ist \(p(x) = 1 - \Phi \!\left (\frac {\overline {x} - \mu _0}{\sigma /\sqrt {n}}\right )\) der \(p\)-Wert des Tests.

Beispiel: Der einseitige Gauß-Test hat für \(\mu _0 = 0\) die Gütefunktion
\(G_\delta (\mu ) = 1 - \Phi \!\left (\frac {c - \mu }{\sigma /\sqrt {n}}\right ) = 1 - \Phi \!\left (z_{1-\alpha } - \frac {\mu }{\sigma /\sqrt {n}}\right )\), d. h. für \(\mu > 0\) die Fehlerwahrscheinlichkeit 2. Art \(\Phi \!\left (z_{1-\alpha } - \frac {\mu }{\sigma /\sqrt {n}}\right )\). Ist \(\mu \) nur unwesentlich größer \(0\), dann ist dies ungefähr gleich \(1 - \alpha \), d. h. fast gleich \(1\). Eine Lösung dieses Problems ist, auf die Kontrolle des Fehlers 2. Art in der sog. Indifferenzzone \(\mu \in (0, \Delta )\) zu verzichten, wobei \(\Delta \) die minimale relevante Abweichung von \(\mu = 0\) darstellt. Damit kann man die Fehlerwahrscheinlichkeit 2. Art (auch \(\beta \)-Fehler) im modifzierten Test \(H_0\colon \mu \le 0\) vs. \(H_\Delta \colon \mu \ge \Delta \) kontrollieren. Für einen vorgebenenen maximalen Fehler \(\beta \) ist \(\beta = \Phi \!\left (z_{1-\alpha } - \frac {\Delta }{\sigma /\sqrt {n}}\right ) \iff \Delta = \frac {\sigma }{\sqrt {n}} (z_{1-\alpha } - z_\beta )\). Bei vorgegebenem \(\beta \) und \(\Delta \) beträgt der minimale Stichprobenumfang \(n \ge \frac {\sigma ^2(z_{1-\alpha } - z_\beta )^2}{\Delta ^2}\).

Dualität zwischen Konfidenzintervallen und Hypothesentests

Beispiel: Seien \(X_1, \dotsc , X_n \sim \N (\mu , \sigma ^2)\) mit \(\theta = \mu \in \Theta := \real \) unbekannt und \(\sigma ^2\) bekannt. Den zweiseitigen Gauß-Test für den Erwartungswert \(\mu \) kann man aus dem \((1 - \alpha )\)-KI \(\overline {X} \pm z_{1-\alpha /2} \frac {\sigma }{\sqrt {n}}\) für \(\mu \) herleiten: Es gilt nach der Definition eines Konfidenzintervalls, dass
\(\forall _{\theta \in \Theta }\; \PP _\theta (\theta \in [\Tu (X), \To (X)]) \ge 1 - \alpha \iff \forall _{\theta \in \Theta }\; \PP _\theta (\theta \notin [\Tu (X), \To (X)]) \le \alpha \). Dabei gilt \(\theta \notin \overline {X} \pm z_{1-\alpha /2} \frac {\sigma }{\sqrt {n}}\) genau dann, wenn \(\left |\frac {\overline {X} - \theta }{\sigma /\sqrt {n}}\right | \ge z_{1-\alpha /2}\) gilt. Daher ist die KI-Definition äquivalent zu \(\forall _{\theta _0 \in \Theta }\; \PP _{\theta _0}(\delta (X) = 1) \le \alpha \) mit \(\delta (X) := \1_{\{|T(X)| \ge z_{1-\alpha /2}\}}\) und \(T(X) := \frac {\overline {X} - \theta }{\sigma /\sqrt {n}}\). Man erhält also einen zweiseitigen Hypothesentest \(\delta (X)\) zum Niveau \(\alpha \). Die Rechnung kann man auch umgekehrt führen (ausgehend von einem Test zum Niveau \(\alpha )\). Allgemeiner gilt folgender Satz.

Satz (Dualitätssatz):

• Ist \([\Tu (X), \To (X)]\) ein \((1-\alpha )\)-Konfidenzintervall für \(\theta \), so ist \(\delta (X, \theta _0) := \1_{\{\theta _0 \notin [\Tu (X), \To (X)]\}}\) für alle \(\theta _0 \in \Theta \) ein (nicht-randomisierter) Hypothesentest zum Niveau \(\alpha \) für \(H_0\colon \theta = \theta _0\) vs. \(H_1\colon \theta \not = \theta _0\).

• Ist \(\delta (X, \theta _0)\) ein (nicht-randomisierter) Hypothesentest zum Niveau \(\alpha \) für \(H_0\colon \theta = \theta _0\) vs. \(H_1\colon \theta \not = \theta _0\) und existieren Statistiken \(\Tu (X), \To (X)\) mit \(\forall _{x \in \X }\; \{\theta _0 \in \Theta \;|\; \delta (x, \theta _0) = 0\} = [\Tu (x), \To (x)]\), so ist \([\Tu (X), \To (X)]\) ein \((1-\alpha )\)-Konfidenzintervall für \(\theta \).

Bayesianisches Testen

Bemerkung: Beim bayesianischen Ansatz ist \(\theta \) eine Zufallsvariable, wobei \(\theta \sim \pi \) mit der a-priori-Dichte \(\pi \) (Zähl-/L.-B.-Dichte). \(X|\theta \sim p(\cdot |\theta )\) ist die sogenannte Likelihood von \(X\) und \(\theta |X=x \sim p(\cdot ,x)\) der a-posteriori-Dichte. Die a-posteriori-Dichte berechnet sich nach der Formel von Bayes \(p(\cdot |x) = \frac {\pi (\theta ) p(x|\theta )}{m(x)}\) mit \(m(x) := \sum _{\theta _i’} \pi (\theta _i’) p(\theta _i’|x)\) bzw. \(m(x) := \int \pi (\theta ’) p(\theta ’|x) \d \theta ’\) (falls \(\theta \) diskret bzw. stetig verteilt ist).

\(\theta \) nimmt nur Werte in \(\Theta = \Theta _0 \mathbin {\dot {\cup }} \Theta _1\) an. Das Hypothesenpaar ist wie üblich \(H_0\colon \theta \in \Theta _0\) vs. \(H_1\colon \theta \in \Theta _1\). Die a-priori-Wahrscheinlichkeit für \(H_0\) beträgt \(\pi _0 := \int _{\theta \in \Theta _0} \pi (\theta )\d \theta \), die für \(H_1\) beträgt \(\pi _1 := \int _{\theta \in \Theta _1} \pi (\theta )\d \theta \). Die a-posteriori-Wahrscheinlichkeiten berechnen sich nach der Formel von Bayes: \(\PP (H_0|X=x) = \int _{\Theta _0} p(\theta |x)\d \theta \) bzw. \(\PP (H_1|X=x) = \int _{\Theta _1} p(\theta |x)\d \theta \) mit \(p(\theta |x)\) wie oben. (Zum Beispiel ist \(\PP (H_0|X=x) = \frac {\int _{\Theta _0} p(x|\theta )\pi (\theta )\d \theta } {\int _\Theta p(x|\theta )\pi (\theta )\d \theta }\).)

Beispiel: Seien wieder \(X_1, \dotsc , X_n \sim \N (\theta , \sigma ^2)\) mit \(\theta \in \Theta = \Theta _0 \mathbin {\dot {\cup }} \Theta _1 = \real \) unbekannt und \(\sigma ^2 > 0\) bekannt. Dann gilt \(\overline {X} \sim \N \!\left (\theta , \frac {\sigma ^2}{n}\right )\). Geht man von der a-priori-Verteilung \(\theta \sim \N (\mu , \tau ^2)\) aus, so ist es (rechnerisch und interpretatorisch) sinnvoll, die Varianz \(\tau ^2\) als \(\sigma ^2/n_0\) zu schreiben mit \(n_0 := \sigma ^2/\tau ^2\) dem sog. impliziten Stichprobenumfang, also \(\theta \sim \N (\mu , \sigma ^2/n_0)\). Man erhält so eine a-posteriori-Verteilung von \(\theta |X=x \sim \N \!\left (\frac {n_0 \mu + n\overline {x}}{n_0 + n}, \frac {\sigma ^2}{n_0+n}\right )\).

Für das Hypothesenpaar \(H_0\colon \theta \le \theta _0\) vs. \(H_1\colon \theta > \theta _0\) erhält man also eine a-priori-Wahrscheinlichkeit für \(H_0\) bzw. \(H_1\) von \(\PP (H_0) = \PP (\Theta _0) = \int _{\Theta _0} \pi (\theta )\d \theta = \int _{(-\infty , \theta _0]} \pi (\theta )\d \theta = \Phi \!\left (\frac {\theta _0 - \mu }{\sigma /\sqrt {n_0}}\right )\) bzw. von \(\PP (H_1) = 1 - \Phi \!\left (\frac {\theta _0 - \mu }{\sigma /\sqrt {n_0}}\right )\).

Die a-posteriori-Wahrscheinlichkeit für \(H_0\) beträgt \(\PP (H_0|X=x) = \frac {\int _{\Theta _0} p(\theta |x)\d \theta } {\int _\Theta p(\theta |x)\pi (\theta )\d \theta }\)
\(= \int _{\Theta _0} p(\theta |x)\d \theta = \Phi \!\left (\frac {\theta _0 - \frac {n_0 \mu + n\overline {x}}{n_0 + n}} {\sigma /\sqrt {n_0+n}}\right ) \xrightarrow {n_0 \to 0} \Phi \!\left (\frac {\theta _0 - \overline {x}}{\sigma /\sqrt {n}}\right )\). Der Grenzwert stellt die a-posteriori-Wahrscheinlichkeit für \(H_0\) bei einer uninformativen a-priori-Verteilung dar.

Berechnet man den frequentistischen \(p\)-Wert, so erhält man
\(\PP (\overline {X} \ge \overline {x}|H_0) = \PP _{\theta _0}\!\left (\frac {\overline {X} - \theta _0}{\sigma /\sqrt {n}} \ge \frac {\overline {x} - \theta _0}{\sigma /\sqrt {n}}\right ) = 1 - \Phi \!\left (\frac {\overline {x} - \theta _0}{\sigma /\sqrt {n}}\right ) = \Phi \!\left (\frac {\theta _0 - \overline {x}}{\sigma /\sqrt {n}}\right )\), also denselben Wert.

Daher konvergiert hier die a-posteriori-Wahrscheinlichkeit für \(H_0\) gegen den (frequentistischen) \(p\)-Wert, falls die a-priori-Verteilung für \(\theta \) gegen die uninformative a-priori-Verteilung konvergiert.

Bemerkung: Der Vergleich der a-priori-Chancen (oder Odds) von \(H_1\) vs. \(H_0\) erfolgt mit der Formel \(\frac {\pi _1}{\pi _0} = \frac {\int _{\Theta _1} \pi (\theta )\d \theta }{\int _{\Theta _0} \pi (\theta )\d \theta }\) (wobei man im Falle einer Zähldichte \(\pi (\theta )\) die Integrale durch Summen ersetzt).

Der Vergleich der a-posteriori-Chancen von \(H_1\) vs. \(H_0\) läuft analog mit
\(\frac {p_1}{p_0} = \frac {\PP (\theta \in \Theta _1|X=x)}{\PP (\theta \in \Theta _0|X=x)} = \frac {\int _{\Theta _1} p(\theta |X=x)\d \theta } {\int _{\Theta _0} p(\theta |X=x)\d \theta } = \frac {\int _{\Theta _1} \pi (\theta )p(x|\theta )\d \theta } {\int _{\Theta _0} \pi (\theta )p(x|\theta )\d \theta } = B \cdot \frac {\pi _1}{\pi _0}\),
wobei \(B := \frac {\int _{\Theta _1} \pi (\theta )p(x|\theta )/\pi _1\d \theta } {\int _{\Theta _0} \pi (\theta )p(x|\theta )/\pi _0\d \theta }\) der sog. Bayes-Faktor darstellt. Die a-posteriori-Odds ergeben sich also als Produkt des Bayes-Faktors (der alle Informationen über die Daten enthält) mit den a-priori-Odds. Der Bayes-Faktor gibt dabei an, in welchem Maße die a-priori-Odds korrigiert werden müssen. Er spielt im bayesianischen Testen eine ähnliche Rolle wie der \(p\)-Wert im frequentistischen Testen.

Bewertung des Bayes-Faktors nach Jeffrey:

Eine ähnliche Tabelle lässt sich für den \(p\)-Wert aufstellen (inklusive der z. B. in R gebräuchlichen Symbole):

Bemerkung: Für einfache Hypothesen \(\Theta = \{\theta _0, \theta _1\}\) mit \(H_0\colon \theta = \theta _0\) und \(H_1\colon \theta = \theta _1\) gilt \(B = \frac {p(x, \theta _1)}{p(x, \theta _0)}\) (Likelihood-Quotient, siehe nächstes Kapitel).

Zusatz: Gängige Konfidenzintervalle und-Hypothesentests

Einstichproben-Konfidenzintervalle: \([\Tu (X), \To (X)]\) mit \(X_1, \dotsc , X_n\) i.i.d.

Einstichproben-Hypothesentests: \(\delta (X) := \1_{\{T(X) \ge c\}}\) mit \(X_1, \dotsc , X_n\) i.i.d.

Zweistichproben-Konfidenzintervalle:
\([\Tu (X, Y), \To (X, Y)]\) mit \(X_1, \dotsc , X_n \sim \N (\mu _X, \sigma _X^2)\) i.i.d., \(Y_1, \dotsc , Y_n \sim \N (\mu _Y, \sigma _Y^2)\) i.i.d. und \(X_1, \dotsc , X_n, Y_1, \dotsc , Y_n\) unabhängig