AI in the Loop
Selbständiges Lernen und KI-Optimierung in realer Umgebung
Das Projekt AI in the Loop beschäftigt sich mit der Interaktion von Menschen und Künstlicher Intelligenz (KI). Im Mittelpunkt stehen die Sicherheit und Zuverlässigkeit von KI-Anwendungen und die Frage, wie Anpassungen und Optimierungen schneller im Betrieb vollzogen werden können. Für das Projekt entwickeln Mitarbeitende unseres DLR Instituts, der Hochschule Mittweida und der IAV eine Forschungsumgebung, die es ermöglicht, das Miteinander von KI und ihren Anwendenden im Alltag unmittelbarer erlebbar zu machen. Projektlaufzeit bis 31.12.2024.
Beitrag Institut für KI-Sicherheit
Die Kooperationspartner entwickeln gemeinsam eine Toolkette, mittels derer KI-Algorithmen direkt in realen Feldumgebungen trainiert werden können und das Verhalten der KI-Anwendungen direkt und intuitiv wahrnehmbar wird. Dazu bauen sie am Standort Sankt Augustin ein Trainings-Labor auf, in dem mit selbstfahrenden Robotern Trainings- und Implementierungsverfahren erprobt werden. Der Schwerpunkt liegt auf der direkten Rückkopplung des Verhaltens und der Anpassung der KI-Algorithmen während des Trainings.
Das Projekt unterscheidet sich grundlegend von bisherigen Verfahren, bei denen KI-Algorithmen mit aufgezeichneten Datensätzen in einer separaten Umgebung angelernt bzw. trainiert werden. Diese Verfahren haben besonders bei regelnden oder steuernden Anwendungen mit physischen Objekten (Cyber Physical Systems) Limitierungen und machen eine nachfolgende Erprobung im realen Umfeld notwendig. Die geplante Toolkette soll es den Wissenschaftlern und Wissenschaftlerinnen ermöglichen, die Trainingsschleife (auch „Loop“ genannt) inklusive der Adaption der KI-Algorithmen direkt in den realen Umgebungen mit selbstfahrendenden Robotern durchzuführen.
Zu diesem Zweck wird eine Infrastruktur (Abbildung unten) errichtet, die aus verschiedenen Cloud-Services und einer speziellen Softwareumgebung auf den Robotern selbst besteht. Im Projekt werden die Anwendungs- und Managementsoftware der selbstfahrendenden Roboter entwickelt und getestet. Diese Entwicklung folgt einem DevOp Zyklus (d.h. ein Zyklus der sowohl die Entwicklungs-, als auch die Betriebsphasen abbildet), bei dem KI-Algorithmen im Betrieb fortlaufend angepasst werden. Ziel ist, die aus dem Projekt resultierenden Erkenntnisse und Gestaltungsprinzipien später für sicherheitskritische Anwendungsfälle zu generalisieren.
Ähnliche Ansätze werden bereits von großen datengetriebenen Anbietern verfolgt, finden dort aber allein auf deren Serverinfrastruktur statt, d.h. sie werden nicht in sicherheitskritischen Bereichen wie der physischen Mensch-Maschine Interaktion eingesetzt. Das Ausrollen bzw. die Erweiterung in eingebettete Systeme und somit auch auf selbstfahrende Roboter ist daher neu. Es ist aber davon auszugehen, dass vergleichbare Ansätze in die kommerzielle Entwicklung Einzug halten werden, da sie dank kürzerer Entwicklungszyklen und inkrementeller Verbesserung versprechen effizienter und schneller zu sein.