Regularisierung

Regularisierung bezeichnet eine Reihe von Techniken, die während des Modelltrainings angewendet werden, um Overfitting zu verhindern, also das Phänomen, bei dem ein Modell Muster erlernt, die spezifisch für die Trainingsdaten sind und sich nicht auf neue Daten übertragen lassen. Overfitting äußert sich in hoher Genauigkeit auf den Trainingsdaten bei gleichzeitig schwacher Leistung auf Validierungs- oder Testdaten. Regularisierung funktioniert, indem sie Einschränkungen oder Strafterme hinzufügt, die das Modell davon abhalten, übermäßig komplexe Repräsentationen zu erlernen. Dadurch werden effektiv einfachere Modelle bevorzugt, die echte Muster statt bloßes Rauschen erfassen.

Die L1-Regularisierung (Lasso) fügt den Absolutwert der Gewichte als Strafterm hinzu und fördert dadurch Sparsamkeit, indem unwichtige Merkmalsgewichte gegen null gedrückt werden. Dies ist nützlich für die Merkmalsauswahl in geografischen Datensätzen mit vielen korrelierten Spektralbändern. Die L2-Regularisierung (Ridge oder Weight Decay) fügt das quadrierte Gewicht als Strafterm hinzu und verhindert, dass ein einzelnes Gewicht zu groß wird. DropoutDropoutDropout is a regularization technique that randomly deactivates neurons during training, preventing neural networks f... deaktiviert während des Trainings zufällig Neuronen. Early Stopping beendet das Training, sobald sich die Leistung auf den Validierungsdaten nicht mehr verbessert, und verhindert so, dass das Modell die Trainingsdaten auswendig lernt. Data AugmentationData AugmentationData Augmentation expands training datasets through transformations like rotation, flipping, color shifting, and crop... wirkt als implizite Regularisierung, indem das Modell transformierten Versionen der Trainingsdaten ausgesetzt wird. Batch NormalizationBatch NormalizationBatch Normalization is a technique that normalizes the inputs to each layer during neural network training, stabilizi... hat durch das Rauschen, das durch die Statistiken der Mini-Batches eingebracht wird, ebenfalls einen regularisierenden Effekt.

Regularisierung ist in der geografischen KI besonders entscheidend, da Modelle häufig auf Daten aus bestimmten Regionen, Jahreszeiten oder Sensoren trainiert werden, jedoch über vielfältige geografische Kontexte hinweg verallgemeinern müssen. Ohne Regularisierung könnte ein Klassifikator für Landbedeckung die spezifischen Spektralsignaturen einer Trainingsregion auswendig lernen, statt verallgemeinerbare Merkmale von Vegetation, Wasser und städtischen Flächen zu erfassen. Die richtige Kombination und Stärke von Regularisierungstechniken ermöglicht es geografischen Modellen, zuverlässig über Regionen, Zeiträume und Sensortypen hinweg zu transferieren, was für den operativen Einsatz unverzichtbar ist.