Auf der Basis der Empfehlungen der High Level Expert Group (AI HLEG) veröffentlichte die EU-Kommission bereits gestern Kernanforderungen an eine vertrauenswürdige KI. Dazu Prof. Dr. Philipp Slusallek, der als Leiter des DFKI-Standorts Saarbrücken und Co-Initiator der europäischen KI-Initiative CLAIRE seit Juni 2018 intensiv mitgearbeitet hat: „Die Guidelines sind ein sehr wichtiger, erster Schritt, um den Kern einer europäischen KI-Strategie zu definieren. Es bleibt aber noch viel zu tun, um das Dokument weiterzuentwickeln und vor allem praktisch umsetzbar zu machen. Hier engagiert sich das DFKI mit einem neuen Prüflabor, in dem künftig KI-Systeme überprüft und zertifiziert werden sollen. Die Guidelines und ihre Weiterentwicklung werden dort eine wichtige Rolle spielen.“
„Der Weg zu Glaubwürdigkeit und Vertrauenswürdigkeit von KI-Systemen führt über die Zertifizierung. Sie leistet einen fundamentalen und nachhaltigen Beitrag für die Digitale Souveränität im Sinne von KI für den Menschen. Das CERTLAB strebt die Schaffung eines Center of Excellence für die Zertifizierung von KI-Systemen an, abgestimmt mit technischen und gesellschaftlichen Standards in verschiedenen Kontexten und Rahmenbedingungen“, so der CERTLAB-Leiter Roland Vogt.
Das Labor für Zertifizierung und Digitale Souveränität (CERTLAB) wird die Entwicklung, Standardisierung und Anwendung von Zertifizierungskriterien für KI-Systeme aktiv vorantreiben. Solche Kriterien werden vorhersehbar den Schutz von Sicherheit (Security), informationeller Selbstbestimmung (Privacy) und Autonomie aller Personen, die von der Verwendung von KI-Systemen betroffen sind, adressieren. Besondere Beachtung werden die Aspekte Kontrollierbarkeit, Erklärbarkeit, Beständigkeit, Sicherheit (Safety) und Fairness finden. Die Leitung des CERTLAB übernimmt Roland Vogt, der als Leiter der anerkannten Prüfstelle für IT-Sicherheit (PITS) des DFKI von einer fast 20-jährigen Erfahrung auf diesem Gebiet profitiert. Die Prüfstelle führt unter anderem die unabhängige Evaluierung von IT-Produkten gemäß den Anforderungen der Common Criteria (CC) und die qualifizierte Entwicklung von Protection Profiles und Security Targets durch.
Mit der Initiative CLAIRE tritt Philipp Slusallek für eine „AI made in Europe“ ein, die die europäischen Grundwerte berücksichtigt. CLAIRE (Confederation of Laboratories for Artificial Intelligence Research in Europe) ist die europäische Antwort im weltweiten KI-Wettbewerb. Die Initiative bringt Stakeholder aus Forschung, Industrie, Politik und Gesellschaft in ganz Europa zusammen und bindet sie ein in die Diskussion über neue Forschungsthemen, Technologien und Lösungen. Zu den konkreten Zielen von CLAIRE gehört der weitere Aufbau von Kompetenzzentren, die strategisch über Europa verteilt sein werden, und eines zentralen Hubs, einer Daten- und Compute-Infrastruktur als CERN für KI.
Die übergeordneten Strategien des DFKI für sein Forschungsprogramm und seine Forschungsaktivitäten folgen ethischen Grundsätzen und Werten auf der Basis der grundlegenden Menschenrechte. Wichtiger Bestandteil dieser Strategien ist die Unterstützung bei der objektiven Bewertung von KI-Systemen mit dem Ziel, die Übereinstimmung mit ethischen Grundsätzen und Werten zu bestätigen. Das KI-Bewertungsprogramm des DFKI wird im neuen Labor für Zertifizierung und Digitale Souveränität konzentriert.
Weitere Informationen
www.dfki.de/web/technologien-anwendungen/cert-lab
http://europa.eu/rapid/press-release_IP-19-1893_de.htm?fbclid=IwAR2eFuS2BoFVoT70tlpMehEuFX0lwWOmyiskydbPZLjeJ52qFyoa_ep4TQg
https://claire-ai.org
Kontakt
Prof. Dr. Philipp Slusallek
Standortleiter DFKI Saarbrücken
Leiter Forschungsbereich Agenten und Simulierte Realität
E-Mail: Philipp.Slusallek@dfki.de
Tel.: +49 681 85775 5390
Roland Vogt
Leiter Labor für Zertifizierung und Digitale Souveränität
Deutsches Forschungszentrum für Künstliche Intelligenz (DFKI) GmbH
E-Mail: Roland.Vogt@dfki.de
Tel.: +49 681 85775 4131
Pressekontakt
Reinhard Karger
Unternehmenssprecher
Deutsches Forschungszentrum für Künstliche Intelligenz (DFKI) GmbH
Team Unternehmenskommunikation Saarbrücken
E-Mail: Reinhard.Karger@dfki.de
Tel.: + 49 681 85775 5253