Eine Möglichkeit, die Nachvollziehbarkeit der Entscheidungen von KI-Modellen zu erhöhen, ist Explainable AI (XAI). In unserem Vortrag geben wir eine Einführung in dieses sehr relevante und spannende Feld. Anhand eines Use-Cases zeigen wir die Wichtigkeit von XAI auf und gehen tiefer auf einige Methoden ein, die helfen können, die gestellten Anforderungen zu erfüllen. Zusätzlichen diskutieren wir den konkreten Nutzen, den XAI bringen kann, anhand einer Reihe von Beispielen aus der Praxis und geben einen Einblick, welche Bereiche besonders profitieren können.

Zielpublikum: Entscheider:innen, Data Scientists
Voraussetzungen: Grundsätzliche Kenntnis über Machine Learning-Anwendungen
Schwierigkeitsgrad: Einsteiger

Extended Abstract:
Moderne KI-Algorithmen werden zunehmend komplexer und die getroffenen Vorhersagen können immer schwer nachvollzogen werden. Dies erschwert den Einsatz von KI im Allgemeinen und besonders in hochregulierten Bereichen, in denen Nachvollziehbarkeit eine große Rolle spielt (z. B. Finance und Insurance). Aktuelle Gesetzesvorhaben wie der European AI-Act verstärken dieses Problem zusätzlich, da Nachvollziehbarkeit mehr und mehr zu einer verpflichtenden Eigenschaft von KI-Modellen in vielen Bereichen wird. Eine Möglichkeit, die Nachvollziehbarkeit der Entscheidungen von KI-Modellen zu erhöhen, ist Explainable AI (XAI). In unserem Vortrag geben wir eine Einführung in dieses sehr relevante und spannende Feld. Anhand eines Use-Cases zeigen wir die Wichtigkeit von XAI auf und gehen tiefer auf einige Methoden ein, die helfen können, die gestellten Anforderungen zu erfüllen. Zusätzlichen diskutieren wir den konkreten Nutzen, den XAI bringen kann, anhand einer Reihe von Beispielen aus der Praxis und geben einen Einblick, welche Bereiche besonders profitieren können.