Algorithmen & Hybride Lösungen

Dieses Themengebiet umfasst die Forschung zur umfassenden Nachweisbarkeit sicherer und normgerechter KI, dabei insbesondere ihrer Betriebs- und Angriffssicherheit. Darüber hinaus wird die Einbettung in sicherheitskritische Szenarien untersucht, z.B. in der Automatisierung in Mobilität und Logistik. Dabei suchen wir nach einem gemeinsamen Weg von wissenschaftlichem und technischem Fortschritt, der auch gesellschaftliche Herausforderungen bis hin zu Gefahren der Künstliche Intelligenz berücksichtigt. Konkret entwickeln wir Methoden und Technologien der Künstlichen Intelligenz systematisch weiter, um sie entweder für sicherheitsbezogene Nachweismethoden zugänglich zu machen, oder um sie nachweissicher, bis hin zu normgerechten Standards zu synthetisieren. Es geht hier also um den formellen Nachweis der Korrektheit von KI-Algorithmen sowie die Vorhersagbarkeit und Erklärbarkeit ihrer Komponenten: Wie kommt der Algorithmus auf diese Lösung, warum schlägt er diese Lösung vor? Bei der Absicherung starker KI bekommen diese Fragen eine besondere Komplexität und ihre Antworten einen besonderen Stellenwert. Dies gilt insbesondere für sicherheitskritische Szenarien, die bereits die Einbindung des Menschen berücksichtigen. Unser Ziel ist es, die AI Community, sowie ihre Unterstützer und Kritiker ins Boot zu holen.

Hybride Lösungen zeichnen sich dadurch aus, dass Sie nicht nur auf Basis großer Datenmengen Schlüsse ziehen, sondern gleichzeitig menschliche Beobachtungen und Erfahrungen einbeziehen. Datenwissen und Expertise ergänzen sich. Hybride Lösungen kombinieren aber nicht nur Mensch und KI, sondern verbinden auch subsymbolische (nicht oder schwer interpretierbar) und symbolische (sehr gut interpretierbar) KI-Methoden und Technologien um sichere und erklärbare Systeme hieraus synthetisieren zu können.

Safety und Security by Design ist für uns bei der Entwicklung von Algorithmen ein prägendes Konzept. Das bedeutet, Angriffs- und Betriebssicherheit von Beginn an und über den kompletten Prozess als essentielle Kernqualität mitzudenken - insbesondere da wir im DLR vorrangig für ambitionierte Anwendungsklassen forschen. Entsprechend muss die KI den besonders sicherheitskritischen Anforderungen standhalten, wie sie in Luftfahrt, Raumfahrt, Energie und Verkehr an der Tagesordnung sind. Ein konkretes Beispiel unserer Arbeit sind Projekte im Bereich des automatisierten Verkehrs, oder der Fertigung und Abwicklung in Logistikzentren und Fertigungsprozessen, welche insbesondere durch die dauerhafte Schnittstelle zum Menschen als kooperatives Element abgesichert werden müssen. Diese Projekte haben zum Ziel, KI als verlässlichen und robusten Bestandteil innerhalb der vorliegende Prozesskette zu verankern und gleichzeitig menschliche und technologische Weiterentwicklung in Einklang zu bringen.