Contrastive Learning

Contrastive Learning ist ein Ansatz des maschinellen Lernens, bei dem neuronale Netze darauf trainiert werden, für semantisch verwandte Eingaben ähnliche Repräsentationen und für nicht verwandte Eingaben unähnliche Repräsentationen zu erzeugen. Das Modell verarbeitet Paare oder Gruppen von Beispielen und lernt dabei einen Einbettungsraum (Embedding Space), in dem positive Paare (unterschiedliche Ansichten desselben Konzepts) nahe zusammengezogen werden, während negative Paare (nicht verwandte Beispiele) auseinandergedrückt werden. Verlustfunktionen wie InfoNCE und NT-Xent quantifizieren dieses Ziel, und die resultierenden Repräsentationen erfassen bedeutungsvolle semantische Strukturen, ohne explizite Labels zu benötigen.

Contrastive Learning eignet sich naturgemäß für Geodaten, die mehrere komplementäre Ansichten derselben Standorte liefern. Räumliche Augmentierungen erzeugen positive Paare aus unterschiedlichen Ausschnitten oder Transformationen derselben Satellitenbildkachel. Zeitliche Paare behandeln Bilder desselben Standorts zu unterschiedlichen Zeitpunkten als positive Beispiele und lehren Modelle, dass saisonale Erscheinungsänderungen die zugrunde liegende Identität der Landbedeckung nicht verändern. Multispektrales Contrasting stellt optische und SARSARSynthetic Aperture Radar (SAR) is an active remote sensing technology that uses microwave radar pulses to create high...-Ansichten desselben Gebiets gegenüber und lernt, Informationen über Sensormodalitäten hinweg abzugleichen. Geografisches negatives Sampling stellt sicher, dass negative Paare tatsächlich aus unterschiedlichen Standorten stammen, was die gelernten Repräsentationen stärkt.

Bekannte Frameworks für Contrastive Learning sind SimCLR, MoCo, BYOL und DINO, die sich jeweils darin unterscheiden, wie positive und negative Paare gebildet und verglichen werden. In geodatenbasierten Anwendungen erzeugt kontrastives Vortraining (Contrastive Pretraining) Feature-Extraktoren, die sich mit minimalen beschrifteten Daten gut auf Landbedeckungsklassifikation, Change DetectionChange DetectionChange detection uses geospatial data and imagery to track and analyze alterations in landscapes, infrastructure, or ... und Szenenabruf übertragen lassen. Geo-bewusstes Contrastive Learning, das geografische Koordinaten als Lernsignal einbezieht, hat Verbesserungen gegenüber rein visuellen Ansätzen gezeigt. Der Ansatz ist besonders wirksam in Kombination mit den umfangreichen Archiven multitemporaler Satellitenbilder, die von Programmen wie Copernicus und Landsat bereitgestellt werden.