i2b meet-up: Generative KI – What‘s next?
Musikstücke werden durch KI erzeugt und man hört es nicht raus? Nils Bäumer von der DenkSinn GmbH hält einen Impulsvortrag beim i2b meet-up teils auf Japanisch ohne die Sprache zu beherrschen?! Die zugehörige i2b Talkrunde, die Mitte Oktober in Oldenburg von Knut Bensen moderiert wurde, ist sich einig: ChatGPT ist erst der Anfang.
Beim letzten i2b meet-up* trafen unterschiedliche Nutzerkreise aufeinander, entsprechend breitgefächert waren die Perspektiven auf die Potenziale und Risiken von KI. So ging es um Forschung, Anwendung, Vernetzung und wirtschaftliche Aspekte, aber ebenso um private Fragestellung und nicht zuletzt um Recht und Regulierung. Wesentlich war die Diskussion, wie leicht oder schwer es ist, KI in bestimmten Bereichen einzuführen und zu nutzen. Thomas Krüger, stellvertretender Leiter unseres Instituts, hat unter anderem die Frage aufgebracht, wo genau die Gefahren liegen und wie wir uns konkret schützen können. Fehler, die ChatGPT ungefragt mitliefert, oder der Missbrauch unserer Daten sind da nur zwei Problemfelder.
Im Kontext KI-Sicherheit sind unter anderem der Europäische AI Act zu nennen und die Europäische Initiative Gaia-X: Der AI Act wird bedingt die Forschung, verstärkt KI-basierte Produkte regulieren. Ganz in diesem Sinne betrachten und bewerten wir als Forschungsinstitut Künstliche Intelligenz mit dem Arbeitsfeld Ethical, Legal und Social Aspekts of AI (ELSA) auch über technische Aspekte hinaus – und das auf allen Entwicklungsstufen: In der Forschung und Entwicklung, Umsetzung, Weiterentwicklung und auch in der Rückabwicklung von KI.
Die Initiative Gaia-X hat den sicheren Datentausch und datenbasierte Geschäftsbeziehungen unter Wahrung von Europäischen Normen zum Inhalt. Auch in dieses Themenfeld bringt sich das Institut für KI-Sicherheit aktiv ein. Mit der Koordination von Gaia-X 4 Future Mobility und unserer Arbeit bei Catena-X sind wir in zwei große Gaia-X Lighthouse Projekte involviert.
*Teilnehmer der Talkrunde: Nils Baeumer, Daniel Kraft, Dr. Michael W. Preikschas, Björn Friedrich, Aliki Anagnostopoulou, Thomas Krüger