Long Short-Term Memory (LSTM)

Long Short-Term Memory Netzwerke sind eine spezialisierte Form rekurrenter neuronaler Netze, die von Hochreiter und Schmidhuber eingeführt wurden, um die Schwierigkeit beim Erlernen langfristiger Abhängigkeiten in sequenziellen Daten zu lösen. LSTMs verwenden einen Gating-Mechanismus aus Eingabe-, Vergiss- und Ausgabe-Gates, die den Informationsfluss durch eine Speicherzelle steuern. Das Vergiss-Gate entscheidet, welche Informationen aus dem Zellzustand verworfen werden, das Eingabe-Gate bestimmt, welche neuen Informationen gespeichert werden, und das Ausgabe-Gate kontrolliert, welche Informationen an den nächsten Zeitschritt weitergegeben werden. Diese Architektur ermöglicht es LSTMs, Informationen über Hunderte von Zeitschritten hinweg selektiv zu behalten oder zu vergessen.

LSTMs eignen sich hervorragend für geospatiale Aufgaben mit zeitlichen Sequenzen. Die multitemporale Satellitenbildanalyse nutzt LSTMs, um Vegetationswachstumszyklen für die Klassifizierung von Feldfrüchten und Ertragsprognosen zu modellieren. Anwendungen im Bereich urbane Mobilität setzen LSTMs ein, um Verkehrsflüsse vorherzusagen, die Nachfrage im öffentlichen Nahverkehr zu prognostizieren und Ankunftszeiten aus historischen Mustern zu schätzen. Die Klimamodellierung verwendet LSTMs, um Temperatur, Niederschlag und extreme Wetterereignisse aus langen historischen Aufzeichnungen vorherzusagen. Das Wasserressourcenmanagement setzt LSTMs ein, um Flussabflüsse, Reservoirstände und Grundwasserveränderungen zu prognostizieren. Die Luftqualitätsüberwachung kombiniert räumliche Sensordaten mit zeitlicher LSTM-Modellierung zur Prognose von Schadstoffkonzentrationen.

Während TransformerTransformerThe Transformer is an attention-based neural network architecture that processes entire sequences in parallel, enabli... LSTMs bei vielen NLP-Aufgaben abgelöst haben, bleiben LSTMs für geospatiale Zeitreihen mit moderater Sequenzlänge und begrenzten Rechenressourcen konkurrenzfähig und praktisch relevant. LSTMs benötigen bei langen Sequenzen weniger Speicher als Attention-basierte Modelle und eignen sich gut für Streaming-Datenszenarien. Bidirektionale LSTMs verarbeiten Sequenzen in beide Richtungen für ein verbessertes Kontextverständnis. ConvLSTM-Varianten kombinieren Faltungs- und rekurrente Verarbeitung für raumzeitliche Daten wie Video und multitemporale Bildraster.