Self-Supervised Learning
Self-Supervised Learning ist ein Paradigma des maschinellen Lernens, bei dem Modelle Repräsentationen aus unbeschrifteten Daten durch das Lösen von Pretext-Aufgaben erlernen. Es verändert die Geospatial-KI grundlegend, indem es leistungsfähiges Feature-Lernen aus den weltweit verfügbaren, riesigen Mengen unbeschrifteter Satellitenbilder ermöglicht.
Überblick
Self-Supervised Learning (SSL) ist ein Trainingsparadigma, bei dem neuronale Netze bedeutungsvolle Datenrepräsentationen ohne von Menschen annotierte Labels erlernen, indem sie aus den Daten selbst abgeleitete Hilfsaufgaben, sogenannte Pretext-Aufgaben, definieren und lösen. Zu den gängigen Pretext-Aufgaben zählen die Vorhersage maskierter Bildbereiche, die Bestimmung, ob zwei Ansichten derselben Szene zusammengehören, oder die Vorhersage der relativen Position von Bildausschnitten. Die durch diese Aufgaben erlernten Repräsentationen erfassen grundlegende Datenstrukturen und lassen sich effektiv auf nachgelagerte Aufgaben mit begrenzten beschrifteten Daten übertragen, wodurch die Lücke zwischen unüberwachtem und überwachtem Lernen geschlossen wird.
Self-Supervised Learning für Erdbeobachtungsdaten
SSL ist für die Geospatial-KI besonders wertvoll, da Satellitenbilder zwar in großer Menge vorhanden, beschriftete Datensätze jedoch knapp und teuer sind. Modelle, die mit SSL auf Millionen unbeschrifteter Sentinel-2- oder Landsat-Szenen vortrainiert werden, lernen spektrale Signaturen, räumliche Texturen und saisonale Muster zu verstehen, ohne dass eine menschliche Annotation erforderlich ist. Masked Image Modeling trainiert Modelle darauf, verborgene Bereiche von Satellitenbildern zu rekonstruieren, und baut dabei ein Verständnis für die Kontinuität der Landbedeckung und den räumlichen Kontext auf. Temporale SSL-Zielfunktionen, die zukünftige oder fehlende zeitliche Beobachtungen vorhersagen, erfassen phänologische Zyklen und Veränderungsdynamiken. Multispektrales SSL erlernt Beziehungen zwischen unterschiedlichen Wellenlängenbändern, die für Vegetationsgesundheit, Wasserqualität und Bodenzusammensetzung aussagekräftig sind.
Vorteile und aktueller Stand der Technik
SSL reduziert die Abhängigkeit von beschrifteten Trainingsdaten erheblich, die den zentralen Engpass in der Entwicklung von Geospatial-KI darstellen. Mit SSL vortrainierte Modelle übertreffen bei der Feinabstimmung mit begrenzten Labels durchgängig von Grund auf trainierte Modelle, insbesondere bei seltenen oder unterrepräsentierten Klassen der Landbedeckung. Große Foundation-Modelle für die Erdbeobachtung von NASA, ESA, IBM und anderen basieren auf SSL-Vortraining. Der Ansatz ermöglicht es, ein einziges vortrainiertes Modell durch aufgabenspezifische Feinabstimmung für vielfältige nachgelagerte Aufgaben einzusetzen, von der Klassifikation über die Segmentierung bis zur Veränderungserkennung.
Bereit?
Sehen Sie Mapular
in Aktion.
Buchen Sie eine kostenlose 30-minütige Demo. Wir zeigen Ihnen genau, wie die Plattform für Ihren Anwendungsfall funktioniert. Kein generisches Foliendeck, keine Verpflichtung.