Explainable AI

Die Veranstaltung findet regelm??ig im Wintersemester statt. Aktuelle und weiterführende Informationen erhalten Sie in GRIPS und in der ersten Veranstaltung. Die Termine entnehmen Sie bitte dem Vorlesungsverzeichnis.

Künstliche Intelligenz (AI) findet in immer mehr Bereichen des Alltags Anwendung. Viele Menschen stehen dem Einsatz von AI-Modellen jedoch zurückhaltend gegenüber und begründen dies h?ufig mit fehlendem Vertrauen aufgrund der nicht gegebenen Erkl?rbarkeit der Modelle. Zur Adressierung dieses Problems k?nnen Entscheidungen von AI-Modellen mithilfe von Verfahren der erkl?rbaren künstlichen Intelligenz (Explainable AI) analysiert werden, um die Nachvollziehbarkeit und Interpretierbarkeit der Modellentscheidungen für Nutzer zu verbessern. So kann beispielsweise quantifiziert werden, welche Attribute eines Datensatzes Einfluss auf die Modellprognose hatten (Feature Importance) oder welche (geringfügigen) Ver?nderungen an einer Dateninstanz zur ?nderung der Modellentscheidungen führen würden (Counterfactual Explanations).

Inhaltlich umfasst die Veranstaltung folgende Thematiken:

• Grundlagen von Explainable AI
• Konzepte, Methoden und praktische Umsetzung von Explainable AI für Klassifikations- und Regressionsmodelle (z.B. LIME, PDP, ALE)
• Konzepte, Methoden und praktische Umsetzung von Explainable AI auf Bilddaten (z.B. Pixel Attribution, Learned Features)

?

? ? ? ? ? ? ? ?

Die Konzepte aus der Vorlesung werden in der ?bung angewendet und vertieft.