KI Engineering

In diesem Forschungsfeld integrieren wir Methoden und Technologien der Künstlichen Intelligenz mit ingenieurwissenschaftlichen Vorgehensmodellen - und zwar so, dass Ingenieure KI-basierte System- und Lösungsbausteine auch in sicherheitskritischen Anwendungen verantwortungsgerecht nutzen können. Maßgeblich geht es um Modelle und Werkzeuge, die dem Aufbau sicherheitskritischer Systeme bzw. Lösungen dienen, wie sie zum Bespiel im Bereich kritischer Infrastrukturen, Verkehr, Energie sowie Luft- und Raumfahrt benötigt werden. Hierzu zählen vor allem Anwendungen für automatisierte Mobilitäts- und Logistiklösungen.
Für diese Prozesse entwickeln wir zuverlässige Bewertungs- und Testverfahren, welche die Stabilität und Kontrollierbarkeit von KI-basierten Systemen über ihren kompletten Lebenszyklus ermöglichen - dies im Sinne einer sicheren und norm- bzw. standardkonformen KI. Mit unserer Arbeit wollen wir die Resilienz und Wirtschaftlichkeit von Künstlicher Intelligenz steigern, den Einsatz von KI in der Industrie erleichtern und die Bandbreite ihrer Einsatzmöglichkeiten vergrößern.

Ein besonderer Aspekt des KI Engineering ist die Interaktion von Menschen und KI-Systemen, die auch bei Human-in-the-Loop zum Tragen kommt. Im Institut für KI-Sicherheit wollen wir die direkte, sichere und vertrauensvolle Zusammenarbeit zwischen Mensch und KI aktiv gestalten. Daher widmen wir uns explizit einer menschzentrierten KI und auch der Frage, wie der Mensch zu Sicherheitsaspekten schwacher und auch starker KI beitragen kann. Dazu kann er beispielsweise beim Training von Maschinen 'in den Loop geholt' werden, um Entscheidungen zur genauen Ausformung einer KI zu treffen oder neue Information einzubringen, die das Training indirekt beeinflusst oder das systemseitige Lernen unterstützt. Über die Integration der menschlichen Expertise wird außerdem sichergestellt, dass die KI nicht nur diese Daten einbezieht, sondern anschlussfähig ist, d.h. ist auch menschliche Anforderung berücksichtigt.