Institut für Wirtschaftsinformatik im DFKI gewinnt 1. Platz beim Science Dialog

Mit ihrem Beitrag „Responsible AI - Der Einsatz Künstlicher Intelligenz (KI) in der Öffentlichen Verwaltung durch erklärbare und faire KI-Methoden“ gewinnen Lea Mayer, Nijat Mehdiyev, Oliver Gutermuth und Prof. Dr. Peter Fettke den ersten Platz. Ihr Konzept für den verantwortungsvollen, transparenten und sozial gerechten Einsatz von Technologien der Künstlichen Intelligenz in der öffentlichen Verwaltung überzeugte die Jury und das Publikum am meisten.

Oliver Gutermuth, M.Sc., Lea Mayer, M.Sc., Forschungsbereichsleiter Prof. Dr. Peter Loos, Stellvertretender Forschungsbereichsleiter Prof. Dr. Peter Fettke und Nijat Mehdiyev, M.Sc., freuen sich über die Auszeichnung.

Die Gewinnerprojekte aus den Bereichen KI, Altersmobilität und Cybersicherheit wurden bereits am 16. Juni im Rahmen des Zukunftskongress-Digital bekannt gegeben. Die Schirmherrin des Wissenschaftswettbewerbs, Digitalstaatsministerin Dorothee Bär, verkündete die Preisträgerinnen und Preisträger per Live-Streaming. Der Science Dialog ist eine Kooperation der Wegweiser Media & Conference GmbH und der ]init[ AG in Partnerschaft mit dem Nationalen E-Government Kompetenzzentrum. Er will innovativen Forschungsbeiträgen eine Bühne bieten und den Weg in die Praxis ebnen.

Die Projektidee der vier Wissenschaftler*innen des Instituts für Wirtschaftsinformatik (IWi) am DFKI zielt darauf ab, Konzepte für den verantwortungsvollen, transparenten und (sozial) gerechten Einsatz von Technologien der Künstlichen Intelligenz in der öffentlichen Verwaltung zu gestalten. Hierzu soll ein Ansatz entwickelt werden, der die Ergebnisse eines KI-basierten datengesteuerten Entscheidungstools für verwaltungsinterne und -externe Beteiligte erklärt und dabei die Fairness der eingesetzten Algorithmen gewährleistet – es gilt, Akzeptanz und Vertrauen in die KI zu stärken.

Mit innovativen Technologien arbeiten Behörden moderner und effizienter. KI-basierte Beratungssysteme können bereits heute eine Vielzahl der Prozesse innerhalb der öffentlichen Verwaltung unterstützen, u.a. bei der Berechnung von Steuern und bei der Erkennung von Betrugsversuchen. Um die großen Potentiale besonders im Bereich des Steuerwesens ausschöpfen zu können, müssen die komplexen Organisationsstrukturen und die heterogenen Systemlandschaften in der öffentlichen Verwaltung berücksichtigt werden. Die eingesetzten Lösungen sollten für Mitarbeiter und Mitarbeiterinnen und auch für die Öffentlichkeit verstehbar und transparent sein.

Kern des Projekts ist die Erforschung, Konzeption und Entwicklung einer verantwortlichen Künstlichen Intelligenz (VKI) zur Unterstützung der datengesteuerten Entscheidungsfindung in der öffentlichen Verwaltung. VKI stellt einen KI-basierten Ansatz dar, der transparente technische Mechanismen mit erklärbaren Ergebnissen einsetzt und die Fairness und Objektivität der KI-Algorithmen gewährleistet. Die KI soll faire Entscheidungen treffen, die Personen nicht aufgrund von Rasse, Hautfarbe, Religion oder Geschlecht diskriminieren.

Die Wirtschaftsinformatiker*innen aus dem DFKI wollen ein KI-Erklärungssystem schaffen, das Erkenntnisse aus Explainable Artificial Intelligence (XAI), Kognitions-, Informationssystem-, und Mensch-Computer-Interaktion einbezieht und eine interaktive Kommunikation zwischen Mensch und KI-Anwendung ermöglicht. Dazu entwickeln sie Methoden und Werkzeuge, die neben der Transparenz der Technik auch den fachlichen Bezug abbilden, um die Fairness der zugrundeliegenden Algorithmen sicherzustellen und nach außen zu transportieren.

Weitere Informationen:
https://www.zukunftskongress.info/de/science-dialog

Video zum Project-Pitch: Inspire! – Stimmen Sie für die Zukunft der Verwaltung!
https://www.youtube.com/watch?v=wKTyVz79dUg

Foliensatz zu Responsible AI: Der Einsatz Künstlicher Intelligenz (KI) in der Öffentlichen Verwaltung durch erklärbare und faire KI-Methoden:
https://cloud.dfki.de/owncloud/index.php/s/6r3WapBLmNfwmMJ#pdfviewer
 

Beitrag teilen auf:

Kontakt:

Prof. Dr. Peter Fettke

Stellvertretender Forschungsbereichsleiter, DFKI

Deutsches Forschungszentrum für Künstliche Intelligenz
German Research Center for Artificial Intelligence