Das Institut für KI-Sicherheit
iStock.com/gremlin
Credit: iStock.com/Igor_Borisenko
Im Institut für KI-Sicherheit erforschen und entwickeln wir KI-bezogene Methoden, Prozesse, Algorithmen, Technologien und Ausführungs- bzw. Systemumgebungen. Unser Fokus liegt auf sicherer und norm- bzw. standardkonformer KI, Cybersicherheit in offenen Daten- und Dienste-Ökosystemen und KI, sowie der Automatisierung in Mobilität und Logistik.
Künstliche Intelligenz (KI) ist eine Schlüsseltechnologie. Im Zuge der voranschreitenden Digitalisierung werden wir ihr in einer wachsenden Anzahl von Lebensbereichen immer häufiger begegnen. Dazu zählen auch Situationen mit hohen Sicherheitsanforderungen oder hohen Anforderungen an den Schutz der zugrundeliegenden Daten, in denen sich zum Beispiel personenbezogene Informationen oder Intellectual Properties (IP) widerspiegeln. KI-Sicherheit – sowohl im Sinne des Schutzes vor äußeren Angriffen (Security) als auch der Fehlerfreiheit beziehungsweise Betriebssicherheit (Safety) – gewinnt entsprechend an Relevanz.
Die zukünftigen Herausforderungen für nationale und internationale Wirtschaftsakteure im Bereich Mobilität bzw. Verkehr sind untrennbar mit zuverlässigen und sicheren KI-Anwendungen verbunden. Dazu zählt beispielsweise die KI-basierte Umgebungswahrnehmung automatisierter Fahrzeuge. Ebenso entscheidend ist die vertrauensvolle Integration verteilter und heterogener Datenbestände unterschiedlicher Akteure des Mobilitäts- und Verkehrssektors sowie angrenzender Sektoren. Dies ist zur Realisierung intermodaler Mobilitäts- und Logistiklösungen von Bedeutung, etwa im Kontext von Energie und Smart City.
Unser Ziel
Mit unserer Arbeit tragen wir dazu bei, die Betriebs- und Angriffssicherheit von KI-basierten Lösungen in ambitionierten Anwendungsklassen zu gewährleisten. Dazu gehören neben Verkehr und Energie sowie Luft- und Raumfahrt weitere für den Wirtschafts- und Wissenschaftsstandort Deutschland wichtige Anwendungsfelder. Zu diesen zählen Industrie 4.0 und durch Digitalisierung geprägte Innovationsfelder, die auf dezentralen Daten- und Dienste-Ökosystemen bzw. einer zukünftigen Plattform- und Datenökonomie basieren.
Ziel ist es, bei den angebotenen Lösungen stets hohe Anforderungen an Sicherheit, Offenheit und Flexibilität, Resilienz und Cybersicherheit zu gewährleisten. Über Grundlagenforschung und mit neuen Methoden wollen wir eine zuverlässige KI ermöglichen und so Erfolgsbarrieren neuer Technologien überwinden.
Das Alleinstellungsmerkmal des Instituts ist somit die integrierte Bearbeitung von Safety- und Security-Aspekten für sicherheitskritische KI-basierte Anwendungen sowie KI-basierte Lösungen mit hohen Cybersicherheit-Anforderungen.
Das DLR bietet optimale Rahmenbedingungen
Die Entwicklungsaktivitäten des DLR und die damit zusammenhängenden Forschungsinfrastrukturen bieten einen optimalen Rahmen für inter- und transdisziplinäre Forschung. Unsere Forschenden können zum Beispiel auf große Datenbestände aus DLR-Großforschungsanlagen zugreifen, um diese mittels KI zu analysieren oder KI-Systeme damit aufzubauen.
Der Ausbau dieser Forschungs- und Entwicklungsaktivitäten für volkswirtschaftlich systemrelevante Infrastrukturen durch das DLR ist dem Institut immanent und in der Strategie Künstliche Intelligenz der Bundesregierung explizit benannt.
Betriebs- und Cybersicherheit im gesamten KI Lebenszyklus
Wir leisten unverzichtbare Beiträge zur verantwortungsvollen Markteinführung ambitionierter KI-basierter Produkte, vorrangig für bodengebundene Verkehrssysteme - Straße, Schiene und Wasser - sowie darüber hinaus. Dabei werden neben technischen auch gesellschaftliche und regulatorische Rahmenbedingungen berücksichtigt.
Das Institut konzentriert sich dabei auf die folgenden Felder:
Sichere und normgerechte KI
Wie kann die Sicherheit und die normgerechte Auslegung von KI-Algorithmen über den gesamten Lebenszyklus hinweg garantiert werden? Und unter welchen Voraussetzungen können KI-Systeme mit Online-Updatefähigkeiten zugelassen werden?
Cybersicherheit in Daten- und Dienste-Ökosystemen und KI
Wie können schützenswerte Daten in dezentralen Ökosystemen vertrauensvoll hinterlegt und deren Nutzen für weitere Stakeholder zum Beispiel im Automobil- und Bahnsektor garantiert werden? Wie können Daten, KI-Algorithmen und Dienste vor Cyberangriffen geschützt werden?
Automatisierung in Mobilität und Logistik
Welche Assistenzfunktionen benötigen fahrzeugseitige Lösungen auf der Straße, auf der Schiene und im Wasser, um deren Markteinführung zu erleichtern?
Diese Themenfelder werden von derzeit vier wissenschaftlichen Abteilungen fachlich und entwicklungstechnisch ausgestaltet. Diese Fachabteilungen werden dabei von transferorientierten sowie strategisch und administrativ ausgerichteten Organisationseinheiten unterstützt. Das Institut profitiert von der jahrzehntelangen Erfahrung des DLR in der Entwicklung, Zulassung und dem Betrieb sicherheitskritischer Systeme für Luftfahrt, Raumfahrt, Energie, Verkehr und Sicherheit.
Unsere Forschungsfelder im Überblick:
- KI Engineering - Steigerung der Anschlussfähigkeit, Resilienz und Wirtschaftlichkeit von KI; Verbesserung der Interaktionsfähigkeit von Mensch und KI.
- Algorithmen & Hybride Lösungen - Forschung und Weiterentwicklung von sicherer KI unter Berücksichtigung von Gesellschaft, Mensch und Technologie.
- Sicherheitskritische Dateninfrastrukturen - Voraussetzungen für einen sicheren Datenaustausch und robuste KI-Anwendungen in Industrie und Forschung.
- Ausführungsumgebungen & innovative Rechenmethoden - Angriffssichere und robuste KI durch die Absicherung des gesamten Ausführungssystems.
- Geschäftsfeldentwicklung und Strategie - Interdisziplinäre Grundlagen für vertrauenswürdige KI, gesellschaftliche Akzeptanz und Technologie-Transfer.