Attention-Mechanismus

Der Attention-Mechanismus ist eine Technik im Deep Learning, die es neuronalen Netzen ermöglicht, die Bedeutung verschiedener Eingabeelemente bei der Erzeugung einer Ausgabe dynamisch zu gewichten. Anstatt alle Teile der Eingabe gleich zu behandeln, berechnet Attention Relevanzwerte zwischen einer Abfrage (Query) und einer Menge von Schlüssel-Wert-Paaren (Key-Value-Paaren) und erzeugt daraus eine gewichtete Kombination von Werten, bei der die Gewichte die Relevanz jedes Elements für die aktuelle Aufgabe widerspiegeln. Self-Attention, bei der Queries, Keys und Values alle aus derselben Eingabe abgeleitet werden, ermöglicht es jedem Element, sich auf alle anderen Elemente zu beziehen, und erfasst so komplexe Abhängigkeiten unabhängig von deren Entfernung.

Attention-Mechanismen verbessern geospatiale Modelle auf mehrere Arten. Spatial Attention hilft Netzen, sich auf relevante Bildregionen zu konzentrieren, etwa indem bei der Extraktion von Gebäudegrundrissen Dächer beachtet und umgebende Straßenflächen ignoriert werden. Channel Attention lernt, welche Spektralbänder für eine gegebene Aufgabe am informativsten sind, und gewichtet automatisch vegetationssensitive Bänder für die Kulturartenklassifikation stärker. Temporal Attention bei der Analyse von Bildern mit mehreren Aufnahmedaten identifiziert, welche Aufnahmezeitpunkte am relevantesten sind, und lernt, wolkenkontaminierte oder saisonal ungünstige Bilder geringer zu gewichten. Cross-Attention zwischen unterschiedlichen Datenmodalitäten, etwa optischen Bildern und SARSARSynthetic Aperture Radar (SAR) is an active remote sensing technology that uses microwave radar pulses to create high...-Daten, lernt komplementäre Zusammenhänge für eine verbesserte Fusion mehrerer Datenquellen.

Attention-Mechanismen haben die Leistung geospatialer Modelle über verschiedene Aufgaben hinweg durchgehend verbessert. Attention-erweiterte CNNs erreichen eine bessere Klassifikationsgenauigkeit, indem sie sich auf unterscheidungskräftige Bildregionen konzentrieren. Attention U-NetU-NetU-Net is an encoder-decoder neural network architecture with skip connections designed for precise image segmentation... erzeugt schärfere Segmentierungsgrenzen, indem es lernt, welche Encoder-Merkmale auf jeder Decoder-Ebene am relevantesten sind. Multi-Head Attention erfasst gleichzeitig unterschiedliche räumliche Zusammenhänge, wobei verschiedene Heads potenziell lernen, sich auf unterschiedliche Arten geografischer Merkmale zu konzentrieren. Die Interpretierbarkeit der Attention-Gewichte liefert wertvolle Einblicke, was das Modell als wichtig erachtet, und adressiert damit teilweise die Black-Box-Natur des Deep Learning.