Man kann nicht immer bekommen, was man will
Manchmal bekommen wir nicht, was wir wollen. Und manchmal gibt es Naturgesetze, die es uns ausdrücklich verbieten, es zu bekommen, egal wie sehr wir es versuchen.
Die Cramér-Rao-Schranke ist ein solches Gesetz, das eine unzerstörbare gläserne Decke – eine harte Obergrenze – für die Vorhersagegenauigkeit festlegt, die von jedem erdenklichen Regressionsmodell erreicht wird.
In diesem Artikel werden wir dieses Gesetz untersuchen.
Ich werde die folgenden zwei Themen behandeln:
- WAS ist die Cramér-Rao-Grenze? Ich werde sowohl die Varianz- als auch die Präzisionsform der Grenze vorstellen. Stück für Stück entpacke ich die Definition und erkläre, wie alles zusammenhängt.
- WIE wird die Cramér-Rao-Grenze auf Regressionsmodelle angewendet? Mithilfe eines realen Datensatzes und eines linearen Regressionsmodells untersuchen wir die Anwendbarkeit des Cramér-Rao-Grenze zur Regressionsmodellierung.
Die Cramér-Rao-Grenze (CRB) kann auf zwei Arten angegeben werden: als Untergrenze der Varianz und als Obergrenze der Präzision.
Wenn Sie es zum ersten Mal lesen, könnte sich die Definition der Cramér-Rao-Grenze so anfühlen, als würden Sie aus einem Schlauch trinken. Aber keine Sorge …