Recurrent Neural Network (RNN)

Ein Recurrent Neural NetworkNeural NetworkA Neural Network is a computing system inspired by the structure of biological neural networks in the brain. It forms... ist eine Klasse neuronaler Netze, die einen internen verborgenen Zustand (Hidden State) beibehält und dadurch Informationen über Zeitschritte hinweg bestehen lässt, während das Netz Sequenzen verarbeitet. Anders als Feedforward-Netze, die jede Eingabe unabhängig behandeln, geben RNNs Informationen über rekurrente Verbindungen von einem Schritt zum nächsten weiter. Dadurch können sie zeitliche Abhängigkeiten und sequenzielle Muster modellieren. Das macht sie besonders geeignet für Daten, bei denen Reihenfolge und Kontext eine Rolle spielen, etwa Zeitreihenbeobachtungen und Bewegungstrajektorien.

RNNs verarbeiten multitemporale Satellitenbilder, um Landbedeckungsänderungen zu erkennen, Ernteerträge anhand saisonaler Wachstumskurven vorherzusagen und Umweltbedingungen aus historischen Klimadaten zu prognostizieren. In der Mobilitätsanalytik werden RNNs eingesetzt, um Fahrzeugtrajektorien vorherzusagen, Reisezeiten zu schätzen und Fußgängerbewegungsmuster aus GPSGPSThe Global Positioning System (GPS) is a satellite-based navigation system operated by the U.S. Space Force that prov...-Spuren zu modellieren. Die Luftqualitätsprognose kombiniert räumliche Sensornetzwerke mit RNN-basierter zeitlicher Modellierung. Hochwasservorhersagesysteme nutzen RNNs, um Wasserstandsänderungen anhand von Niederschlags- und Abflusszeitreihen zu modellieren. Die Fähigkeit zur sequenziellen Verarbeitung macht RNNs überall dort wirksam, wo sich geografische Phänomene über die Zeit hinweg entwickeln.

Einfache RNNs leiden unter dem Problem des verschwindenden Gradienten (Vanishing-Gradient-Problem), bei dem Gradienten sich mit fortschreitender Ausbreitung über viele Zeitschritte hinweg abschwächen, was das Erlernen langreichweitiger Abhängigkeiten erschwert. Diese Einschränkung führte zur Entwicklung der LSTM- und GRU-Architekturen, die über Gating-Mechanismen den Informationsfluss steuern. In jüngerer Zeit haben TransformerTransformerThe Transformer is an attention-based neural network architecture that processes entire sequences in parallel, enabli...-Architekturen mit Attention-Mechanismen RNNs bei vielen sequenziellen Aufgaben weitgehend abgelöst, da sie Sequenzen parallel verarbeiten und langreichweitige Abhängigkeiten effektiver erfassen können. RNNs bleiben jedoch relevant für Streaming-Anwendungen, bei denen Daten kontinuierlich eintreffen und inkrementell verarbeitet werden müssen.