Grid Search kann helfen, die optimale Baumtiefe zu finden, indem systematisch verschiedene Werte ausprobiert und die Leistung des Modells bewertet wird.

Eine zu geringe Baumtiefe führt zu Overfitting, da der Baum die Trainingsdaten zu genau lernt.

Eine geeignete Baumtiefe ermöglicht dem Modell, die zugrunde liegenden Muster in den Daten zu erfassen und gut auf neuen Daten zu generalisieren.

Durch die Verwendung einer Pipeline wird Data Leakage unwahrscheinlicher.

Wenn bei Verwendung einer Kreuzvalidierung in jedem Durchlauf zwar das Modell neu auf den jeweiligen Trainingsdaten trainiert wird, aber die Vorverarbeitungsschritte bereits vorher auf dem Gesamtdatensatz durchgeführt wurden, tritt Data Leakage auf.

Die fit()-Methode sollte immer auf allen Daten (Test- und Trainingsdaten) angewendet werden, um Data Leakage zu vermeiden.

Von Data Leakage spricht man, wenn Informationen aus den Testdaten versehentlich oder ungewollt in das Trainingsmodell gelangen.

Die 5-fach Kreuzvalidierung wird innerhalb jedes einzelnen Durchlaufs der Grid Search verwendet, um die Performance der aktuellen Hyperparameter-Kombination zuverlässiger zu schätzen.

Die Grid Search optimiert die Auswahl der Testdaten für die 5-fach Kreuzvalidierung.

Die Grid Search wird innerhalb jedes einzelnen Folds der 5-fach Kreuzvalidierung verwendet, um das Modell für diesen Fold zu optimieren.

Bei jedem Durchlauf wird das Modell neu auf die verwendeten Validierungsdaten angepasst (Aufruf von fit()).

Nur die Trainingsdaten werden normalisiert (Aufruf von transform()), nicht die Validierungsdaten.

Das Modell wird nur 1x trainiert (Aufruf von fit() auf dem Klassifikator) und zwar ganz zu Beginn auf der Gesamtmenge der Daten.

In jedem der 5 Durchläufe wird der für die Normalisierung zuständige Transformer neu an die Trainingsdaten angepasst durch Aufruf der fit()-Methode.