Institut für KI-Sicherheit

Nachrichten aus unserem Institut

laden
Das Institut für KI-Sicherheit stellt sich vor
Im Institut für KI-Sicherheit erforschen und entwickeln wir KI-bezogene Methoden, Prozesse, Algorithmen, Technologien und Ausführungs- bzw. Systemumgebungen. Wir leisten Beiträge zur Gewährleistung von Betriebs- und Angriffssicherheit für KI-basierte Lösungen in ambitionierten Anwendungsklassen.

Das Institut für KI-Sicherheit stellt sich vor

Für die Wiedergabe dieses Videos auf Quickchannel.com ist Ihre Zustimmung zur Speicherung von Daten ('Cookies') erforderlich. Unter Datenschutz-Einstellungen können Sie Ihre Wahl einsehen und verändern.

Das Institut für KI-Sicherheit stellt sich vor
Im Institut für KI-Sicherheit erforschen und entwickeln wir KI-bezogene Methoden, Prozesse, Algorithmen, Technologien und Ausführungs- bzw. Systemumgebungen. Wir leisten Beiträge zur Gewährleistung von Betriebs- und Angriffssicherheit für KI-basierte Lösungen in ambitionierten Anwendungsklassen.

Unsere Forschungsfelder in fünf Abteilungen

KI Engineering

Entwicklungsprozesse, Bewertungs- und Testmethoden für KI-basierte Komponenten und Systeme in sicherheitskritischen Anwendungen; Integration von Ergebnissen in dezentrale DevOps-Umgebungen (AI-in-the-Loop) zur Steigerung der Anschlussfähigkeit, Resilienz und Wirtschaftlichkeit von KI; Forschung zur Verbesserung der Interaktionsfähigkeit von Mensch und KI (Human-in-the-Loop).

Algorithmen & Hybride Lösungen

Entwicklung von KI-Methoden und -Technologien, die im Sinne von Safety und Security nachweisbar sicher sind und sich in dezentrale Daten- und Dienste-Ökosysteme einbetten. Gesellschaftliche, menschliche und technologische KI-Forschung und Weiterentwicklung in Synergie.

Sicherheitskritische Dateninfrastrukturen

Daten- und Informationsqualität sowie Grundlagen für sichere dezentrale Dateninfrastrukturen; Methoden und Technologie der IT-Sicherheit und Datenverschlüsselung sowie Privacy Enhancing Technologies (PET). Voraussetzungen für einen sicheren Datenaustausch und robuste KI-Anwendungen in Industrie und Forschung.

Ausführungsumgebungen & innovative Rechenmethoden

Forschung und Entwicklung zu zuverlässigen Ausführungsumgebungen (Soft- und Hardware) sowie innovativen Rechenansätzen, insbesondere dem Quanten-Computing. Angriffssichere und robuste KI durch die Absicherung des gesamten Ausführungssystems.

Geschäftsfeldentwicklung & Strategie

Kontinuierliche Analyse des Forschungsfeldes und Vernetzung von KI Wissenschaft und Industrie. Koordination inter-/transdisziplinärer Forschung zu ELSA-Themen (ELSA = Ethical, Legal and Social Aspects) im Kontext KI-basierter Anwendungen. Grundlagen für vertrauenswürdige KI, gesellschaftliche Akzeptanz und Technologie-Transfer.