Visualisierung von XAI Interpretationen für Zeitreihenvorhersage

Bei der Anwendung von Modellen besteht die Notwendigkeit einzelne Entscheidungen und das Modell interpretierbar bzw. erklärbar zu machen. White-Box-Modelle wie bspw. Lineare Regression können interpretiert bzw. erklärt werden, aber sind limitiert in ihrer Performance, vor allem dann, wenn der Daten generierende Prozess von dem Modell abweicht. Daher werden oftmals empirische, datenbasierte Machine Learning Modelle verwendet, da diese beim Modellieren kein bis wenig Expertenwissen über die Daten erfordern. Viele dieser sind jedoch Grey- bzw. Black-Box-Modelle, daher sehr komplexe, aber performante Modelle, die gar nicht bis kaum durch das Modell erklärbar sind und keine Inferenz gestatten. Dadurch sind Ergebnisse nicht nachvollziehbar und das Modellverhalten kann nicht erklärt werden.

In Explainable AI (XAI), einem Teilgebiet der Künstlichen Intelligenz, werden Methoden entwickelt, um solche Modelle nachvollziehbar zu machen. Neben der Entwicklung von XAI Methoden müssen auch geeignete Darstellungsformen gefunden werden, um die Interpretationen zu veranschaulichen, bspw. für komplexe Zeitreihendaten z.B. multivariate Zeitreihen.

Das Ziel dieser Arbeit ist geeignete Visualisierungen von Interpretationen verschiedener XAI Methoden für (multivariate) Zeitreihenvorhersagen zu finden. Dabei sollen Darstellungen entwickelt werden, welche die Vergleichbarkeit von Interpretationen über verschiedene Prognosemodelle bzw. XAI Methoden ermöglichen.

Dieses Thema ist nur als Bachelorarbeit geeignet.

Voraussetzungen

  • Erfahrung mit Zeitreihenanalyse bzw. -vorhersage, gute Kenntnisse in mathematischen Grundlagen sind hilfreich
  • Erfahrungen mit Visualisierungen von Zeitreihen sind wünschenswert
  • Gute Kenntnisse in Machine Learning, erste Erfahrungen mit XAI Methoden sind vorteilhaft
  • Gute Programmierkenntnisse (idealerweise Python)

Literatur

  • Guidotti, Riccardo & Monreale, Anna & Turini, Franco & Pedreschi, Dino & Giannotti, Fosca. (2018). A Survey of Methods for Explaining Black Box Models. ACM Computing Surveys. 51. 10.1145/3236009.
  • W. Samek, G. Montavon, S. Lapuschkin, C. J. Anders and K. -R. Müller, “Explaining Deep Neural Networks and Beyond: A Review of Methods and Applications,” in Proceedings of the IEEE, vol. 109, no. 3, pp. 247-278, March 2021, doi: 10.1109/JPROC.2021.3060483.
  • Schlegel, Udo & Arnout, Hiba & El-Assady, Mennatallah & Oelke, Daniela & Keim, Daniel. (2019). Towards A Rigorous Evaluation Of XAI Methods On Time Series. 4197-4201. 10.1109/ICCVW.2019.00516.