Projekt

ExplAINN

Explainable AI and Neural Networks

Explainable AI and Neural Networks

Trotz erstaunlicher Fortschritte auf dem Gebiet des maschinellen Lernens (ML) ist die Robustheit von Hochleistungsmodellen, insbesondere der auf Deep Learning-Technologien basierenden, geringer als ursprünglich prognostiziert. Diese Netzwerke verallgemeinern nicht wie erwartet und bleiben anfällig für kleine bösartige Störungen (die sogenante "Adversarial Attacks"). Solche Unzulänglichkeiten stellen ein kritisches Hindernis für die Implementierung von Deep Learning Modellen für sicherheitskritische Bereiche wie z.B. autonomes Fahren, medizinische Bildverarbeitung und Bonitätsprüfung dar.

Darüber hinaus zeigt die Lücke zwischen guter Performance und Robustheit auch den mangelnden Erklärbarkeit moderner KI-Ansätze: Trotz guter Performance können selbst Experten die Modellvorhersagen nicht zuverlässig interpretieren.

Die Ziele dieses Projekts sind daher dreifach:

  • Untersuchung der Erklärungs- und Interpretierbarkeit bestehender KI-Ansätze (Schwerpunkt: Deep Neural Networks).
  • Entwicklung neuartiger Architekturen und Trainingsverfahren, die vom Design her besser interpretierbar sind.
  • Analyse der Trade-offs zwischen Erklärbarkeit, Robustheit und Performance.

Fördergeber

Bundesministerium für Bildung und Forschung

01IS19074

Bundesministerium für Bildung und Forschung

Projekt teilen auf:

Ansprechpartner
Sebastian Palacio, M.Sc.

Keyfacts

Publikationen zum Projekt

Tobias Hinz, Stanislav Frolov, Federico Raue, Jörn Hees, Andreas Dengel

In: Neural Networks 144 Seiten 187-209 Journal of Neural Network Elsevier 12/2021.

Zur Publikation
Mohsin Munir, Sheraz Ahmed, Sebastian Palacio, Adriano Lucieri, Jörn Hees, Andreas Dengel

In: Proceedings of the IEEE/CVF International Conference on Computer Vision (ICCV) Workshops. International Conference on Computer Vision (ICCV-2021) Online Computer Vision Foundation 10/2021.

Zur Publikation

Deutsches Forschungszentrum für Künstliche Intelligenz
German Research Center for Artificial Intelligence