Erklärbare KI (XAI)

Erklärbare Künstliche Intelligenz (Explainable AI, XAI) umfasst Methoden und Techniken, die die Ausgaben von Systemen der Künstlichen Intelligenz (KI) für Menschen nachvollziehbar machen. Mit zunehmender Komplexität von KI-Modellen, insbesondere tiefen neuronalen Netzen, werden deren Entscheidungsprozesse zunehmend undurchsichtig, was ihnen die Bezeichnung "Black Box" einbringt. XAI begegnet diesem Problem, indem sie Erklärungen für Modellvorhersagen liefert, offenlegt, welche Merkmale oder Eingaberegionen am einflussreichsten waren, und es Nutzern ermöglicht, KI-Ausgaben zu verstehen, ihnen zu vertrauen und sich angemessen auf sie zu verlassen. Transparenz ist besonders entscheidend, wenn KI folgenreiche Entscheidungen in Bereichen wie Stadtplanung, Umweltpolitik und Katastrophenschutz beeinflusst.

Mehrere XAI-Techniken werden häufig auf geospatiale Modelle angewendet. Saliency Maps und Grad-CAM heben hervor, welche Regionen eines Satellitenbilds die Vorhersage des Modells am stärksten beeinflusst haben, und zeigen, ob ein Landbedeckungsklassifikator sich auf relevante spektrale Merkmale oder auf irrelevante Artefakte konzentriert hat. SHAP-Werte (SHapley Additive exPlanations) quantifizieren den Beitrag jedes Merkmals zu einzelnen Vorhersagen und zeigen, welche räumlichen Variablen Standortauswahl-Scores oder Immobilienbewertungen bestimmen. LIME (Local Interpretable Model-agnostic Explanations) approximiert das Modellverhalten lokal mit interpretierbaren Modellen. Die Visualisierung von Attention-Gewichten in transformerTransformerThe Transformer is an attention-based neural network architecture that processes entire sequences in parallel, enabli...-basierten Modellen zeigt, welchen Teilen der Eingabe das Modell bei jeder Vorhersage Aufmerksamkeit geschenkt hat. Die Merkmalswichtigkeit aus baumbasierten Modellen ordnet räumliche, spektrale und demografische Merkmale nach ihrem Beitrag zur Vorhersage.

Erklärbarkeit ist nicht bloß eine technische Erwägung, sondern eine Governance-Anforderung für geospatiale KI-Anwendungen, die Gemeinschaften und Umwelt betreffen. Stadtplaner müssen verstehen, warum eine KI bestimmte Änderungen der Flächennutzung empfiehlt. Umweltbehörden müssen überprüfen, dass die Erkennung von Entwaldung auf validen spektralen Belegen und nicht auf Modellartefakten beruht. Stakeholder bei der Standortauswahl benötigen eine transparente Begründung für Standortempfehlungen. Erklärbare KI schafft das Vertrauen, das für den operativen Einsatz geospatialer Modelle notwendig ist, und hilft, mögliche Verzerrungen in Trainingsdaten oder im Modellverhalten zu erkennen.