LOKI

Im Projekt Kollaboration von Luftfahrt-Operateuren und KI-Systemen (LOKI) analysieren wir die Ansätze zur Kollaboration zwischen Mensch(en) und KI-Systemen. Ein wichtiger Baustein dafür ist die Untersuchung von Metriken für die Zustandserfassung des menschlichen Partners bzw. der menschlichen Partnerin. Im Projekt entwickeln wir Prototypen domänenspezifischer KI-Systeme, wie den digitalen Co-Lotsen und erarbeiten daraus Leitlinien für die Gestaltung der Schnittstelle zwischen Nutzenden und KI-Systemen.

Die Beteiligten Einrichtungen bestehen aus den folgenden DLR Instituten und externen Projektpartnern:

· Institut für Luft- und Raumfahrtmedizin
· Institut für Flugführung
· Institut für KI-Sicherheit
· Institut für Datenwissenschaften
· Institut für Softwaretechnologie
· Institut für Luftverkehr

Externe Partner des Projektes LOKI:

· DFS Deutsche Flugsicherung GmbH
· Uni Lübeck, Fachbereich Ingenieurpsychologie
· Austro Control GmbH
· Bundesverband der Deutschen Luftverkehrswirtschaft - BDL

Beitrag Institut für KI-Sicherheit

Das Institut für KI-Sicherheit ist in vier von fünf Hauptarbeitspaketen involviert und untersucht unter anderem die Anforderungen für vertrauenswürdige und transparente KI für den Einsatz digitaler Co-Lotsen. Die Laufzeit beträgt vier Jahre, von 2022 bis 2026.

Der Mensch wird zukünftig mit Systemen der künstlichen Intelligenz zusammenarbeiten. Tätigkeiten in den unterschiedlichsten Arbeitsdomänen wie der Luftfahrt, der Medizin oder der Raumfahrt, aber auch die des Alltags werden durch eine Interaktion mit KI-Systemen geprägt sein.

Beim Design KI-basierter Systeme sind psychologische Anforderungen an menschlichen Operateuren und die Mensch-KI-Schnittstelle in frühen Phasen zu analysieren und mit entsprechenden Designlösungen zu berücksichtigen. Im Unterschied zu den bereits existierenden Formen von Assistenzfunktionen können KI-Systeme lernen und ermöglichen so eine sukzessive Anpassung an die Umwelt. So kann durch die Integration lernender Algorithmen in bestehende adaptive Assistenzsysteme die Systemfunktion der Adaptivität an menschliche Zustände verbessert werden. Hierdurch wird ihr Systemzweck, handelnde Menschen in deren Arbeitsauftrag zu assistieren, effektiver erreicht. Lernende Algorithmen können in komplexen biometrischen Datensätzen, die während der Tätigkeitsausübung anfallen und erfasst werden, Muster identifizieren. Diese Muster werden durch Training einer bestimmten Ausprägung einer kategorialen menschlichen Zustandsvariablen zugeordnet. Eine solche Zuordnung liefert dem Assistenzsystem dann eine genauere Information für die Art der aktuell benötigten Unterstützung.

Wir wollen mit diesem Projekt Leitlinien für eine mensch-zentrierte Gestaltung der Kommunikation, aber auch Kollaboration zwischen Nutzenden und KI-Systemen erarbeiten. Unser Schwerpunkt liegt auf Tätigkeitsbereichen im Luftverkehrsmanagement, bei denen Operateure kollaborativ zusammenarbeiten. Im Zentrum unseres Projektes steht der Mensch als Nutzenden von KI-Systemen und die Frage, wie die Akzeptanz, Nachvollziehbarkeit, Zufriedenheit und Berechenbarkeit für die Nutzenden von KI-Systemen sichergestellt werden kann.

Das Projekt-Team arbeitet interdisziplinär und domänenübergreifend zusammen. Dabei wird LOKI von der DFS Deutsche Flugsicherung GmbH, Austro Control GmbH und dem BDL, Bund Deutscher Luftfahrtwirtschaft sowie von Wissenschaftlerinnen und Wissenschaftlern des Instituts für Multimediale und Interaktive Systeme (IMIS) der Universität zu Lübeck als externer Partner unterstützt.

Ziele des Projektes sind: die Analyse von Ansätzen zur Kollaboration zwischen Mensch(en) und KI-Systemen, die Untersuchung von Metriken für die Zustandserfassung des menschlichen Partners bzw. der menschlichen Partnerin, die Entwicklung von Prototypen domänenspezifischer KI-Systeme und die Erarbeitung von Leitlinien für die Gestaltung der Schnittstelle zwischen Nutzenden und KI-Systemen.