Maximum-Likelihood Schätztheorie

Zusammenfassung

Dieser Beitrag ist als Einführung in die Maximum-Likelihood (ML) Schätztheorie gedacht und erfordert vom Leser nur wenig Vorwissen. Im Gegensatz zu anderen Schätzverfahren, wie zum Beispiel dem OLS-Ansatz, beruht der Maximum-Likelihood Ansatz auf der expliziten Spezifizierung der auf die unabhängigen Variablen bedingten Verteilung der abhängigen Variable. Die Parameter (z. B. Regressionskoeffizienten) werden dann so bestimmt, dass die Schätzwerte der Parameter die Wahrscheinlichkeit maximieren, dass die Verteilung der vorhergesagten Werte der abhängigen Variable möglichst gut mit der beobachteten Verteilung der Werte übereinstimmt. Diese Idee ist so generell, dass sie sowohl auf lineare wie auch nichtlineare Modelle angewandt werden kann. Zudem erlaubt der Maximum-Likelihood Ansatz, dass die Parameter wie auch ihre Inferenzstatistik in einem einheitlichen Rahmen hergeleitet werden können. Grob gesagt ist es lediglich notwendig, dass die aus dem Modell resultierende Maximum-Likelihood Funktion zweimal stetig differenzierbar ist. Nachteilig wirkt sich dieser einheitliche Ansatz jedoch dahingehend aus, als dass die Maximum-Likelihood Theorie nur asymptotische Gültigkeit besitzt und zur Parameterbestimmung in kleinen Stichproben ungeeignet ist, da die Schätzwerte im Allgemeinen nicht erwartungstreu sein werden. In diesem Beitrag werden die wichtigsten Punkte besprochen, welche zum Verständnis der Maximum-Likelihood Schätztheorie und damit verbundenen, gängigen Regressionsverfahren der Sozialwissenschaften wesentlich sind: Maximum-Likelihood Schätzung für Modelle mit einem Parameter, Maximum-Likelihood Schätzung für Modelle mit mehreren Parametern, Inferenzstatistik (Hypothesen über einen Parameter, Hypothesen über mehrere Parameter) und Modellgüte. Des Weiteren wird auf die statistischen Eigenschaften der Maximum-Likelihood Schätzer eingegangen. Da Maximum-Likelihood Schätzer nicht immer analytisch zu bestimmen sind, rundet ein kurzer Abschnitt zu gebräuchlichen, numerischen Optimierungsverfahren den Beitrag ab. Natürlich ist der Platz in diesem Beitrag zu knapp, als dass alle Themen im Zusammenhang mit dem Maximum-Likelihood Ansatz besprochen werden könnten. So ist es zum Beispiel nicht möglich, auf diverse Erweiterungen einzugehen. Bei nicht korrekter Spezifizierung der Verteilung der abhängigen Variable resultieren zum Beispiel Maximum-Likelihood Schätzer, die nicht mehr die gewollten statistischen Eigenschaften aufweisen. In solchen Fällen muss die Maximum-Likelihood Funktion entsprechend angepasst werden (z. B. Pseudo-Maximum- Likelihood Schätzungen). Für solche und weitere Erweiterungen sei der Leser auf die im Literaturverzeichnis aufgeführten Lehrbücher verwiesen.