Künstliche Intelligenz (KI) findet zunehmend vielfältige Anwendungen in der physischen Welt, insbesondere auf eingebetteten, cyber-physischen Geräten mit begrenzten Ressourcen und unter anspruchsvollen Bedingungen. Diese Art von KI wird als "Frugale KI" bezeichnet und zeichnet sich durch geringen Speicherbedarf, reduzierte Rechenleistung und den Einsatz von weniger Daten aus. Das Projekt FAIRe (Frugal Artificial Intelligence in Resource-limited environments) des DFKI und des französischen Informatikinstituts Inria entwickelt einen umfassenden Ansatz für alle Abstraktionsschichten von KI-Anwendungen an der Peripherie.
Edge Devices wie Fahrerassistenz- und Infotainment-Systeme im Auto, medizinische Geräte, Explorations-, Fertigungs- oder Service-Roboter und nicht zuletzt Mobiltelefone verfügen bei weitem nicht über die Ressourcen riesiger Cloud-Rechenzentren, die moderne Anwendungen für maschinelles Lernen benötigen. Die Herausforderung besteht darin, mit beschränkter Rechenleistung, begrenztem Speicherplatz und eingeschränktem Stromverbrauch umzugehen.
FAIRe zielt darauf ab, die Bereitstellung von KI-Anwendungen auf mobilen Geräten durch einen innovativen Ansatz zur Reduzierung der Modellgröße und des Rechenaufwands durch Netzwerkquantisierung, Optimierung der Netzwerkarchitektur, Optimierung der Berechnungen und schließlich Ausführung auf spezialisierter Hardware (z.B. auf RISC-V-Basis oder FPGAs) zu ermöglichen.
Dabei werden die Kompetenzen aus mehreren Forschungsbereichen des DFKI kombiniert: die eigentlichen KI-Algorithmen, die Hardware, auf der sie laufen, und die dazwischen liegende Compiler-Schicht, die dafür verantwortlich ist, KI-Algorithmen so effizient wie möglich für eine bestimmte Hardware zu übersetzen. Um diesen Ansatz in der Praxis zu demonstrieren, führt das Projektteam um Prof. Dr. Christoph Lüth eine Fallstudie zur Mensch-Roboter-Interaktion (HRI) durch, die alle diese Aspekte abdeckt.
Edge-AI-Projekte wie FAIRe tragen dazu bei, KI-Anwendungen auf mobilen Endgeräten weitreichend nutzbar zu machen und eröffnen neue Potenziale für Anwendungen.
Partner
- Inria Taran
- Inria Cash
- Inria Corse
