Abteilungen

Unsere Forschungsfelder in fünf Abteilungen

Am Institut für KI-Sicherheit arbeiten wir in zahlreichen Forschungsfeldern, die auf fünf Abteilungen aufgeteilt sind. Jede Abteilung konzentriert sich auf einen Themenbereich der KI und damit auf konkrete Ansprüche und Zielgruppenbedürfnisse. Gemeinsam wollen wir Künstliche Intelligenz und KI-basierte Systeme bzw. Lösungen entwickeln, die sicher, hinreichend einschätzbar und hoch praxisrelevant sind.

KI Engineering - Ingenieure im Blick

Entwicklungsprozesse, Bewertungs- und Testmethoden für KI-basierte Komponenten und Systeme in sicherheitskritischen Anwendungen; Integration von Ergebnissen in dezentrale DevOps-Umgebungen (AI-in-the-Loop) zur Steigerung der Anschlussfähigkeit, Resilienz und Wirtschaftlichkeit von KI; Forschung zur Verbesserung der Interaktionsfähigkeit von Mensch und KI (Human-in-the-Loop).

Algorithmen & Hybride Lösungen - Alle ins Boot holen

Entwicklung von KI-Methoden und -Technologien, die im Sinne von Safety und Security nachweisbar sicher sind und sich in dezentrale Daten- und Dienste-Ökosysteme einbetten. Gesellschaftliche, menschliche und technologische KI-Forschung und Weiterentwicklung in Synergie.

Sicherheitskritische Dateninfrastrukturen - Mehr als Verschlüsselung

Daten- und Informationsqualität sowie Grundlagen für sichere dezentrale Dateninfrastrukturen; Methoden und Technologien der IT-Sicherheit und Datenverschlüsselung sowie Privacy Enhancing Technologies (PET). Voraussetzungen für einen sicheren Datenaustausch und robuste KI-Anwendungen in Industrie und Forschung.

Ausführungsumgebungen & Innovative Rechenmethoden - Verteilen und Integrieren

Integration von innovativer Künstlicher Intelligenz auf herausfordernden Systemen - jenseits klassischen Denkens. Angriffssichere und robuste KI durch Absicherung der kompletten Rechenumgebung: Großrechner, mobile Geräte, Quantencomputer.

Geschäftsfeldentwicklung & Strategie - Vorausschauen und vorangehen

Kontinuierliche Analyse des Forschungsfeldes und Vernetzung von KI Wissenschaft und Industrie. Koordination inter-/transdisziplinärer Forschung zu ELSA-Themen (ELSA = Ethical, Legal and Social Aspects) im Kontext KI-basierter Anwendungen. Grundlagen für vertrauenswürdige KI, gesellschaftliche Akzeptanz und Technologie-Transfer.