Der Boom der Künstlichen Intelligenz (KI) wird derzeit in Deutschland oft durch einen Mangel an hochkarätig ausgebildetem Nachwuchs gebremst. Als eine von drei neuen Zuse Schools soll die neue Konrad Zuse School of Excellence in Reliable AI (relAI), ein Gemeinschaftsprojekt der Technischen Universität München (TUM) und der Ludwig-Maximilians-Universität München (LMU), dieser Entwicklung entgegenwirken. Die Unterstützung durch den Deutschen Akademischen Austauschdienst (DAAD) hält Co-Sprecherin Gitta Kutyniok, Professorin für Mathematische Grundlagen der KI an der LMU deshalb für einen Meilenstein. „Er bringt uns im harten Wettbewerb um die weltweit besten KI-Studierenden deutlich nach vorne.“ Die vom DAAD aus Mitteln des Bundesministeriums für Bildung und Forschung mit insgesamt 13,8 Millionen Euro geförderte School stellt mit der Zuverlässigkeit von KI ein zentrales Thema in den Mittelpunkt ihrer Arbeit. Wie lässt sich sicherstellen, dass selbstlernende Algorithmen zu richtigen Entscheidungen kommen, weil sie das Richtige gelernt haben und es richtig verarbeiten? Mit rund 20 Partnern aus Forschung und Industrie geht relAI grundlegenden Fragen bei der Anwendung von KI-Technologien nach.

 

INTERVIEW

Selbstlernende Algorithmen: Wie sicher sind Entscheidungen in der KI?

Die TUM ist gleich an zwei der drei Zuse Schools beteiligt. Wie wichtig die Zusammenarbeit beim Thema Zuverlässigkeit von KI sowohl vor Ort, als auch mit internationalen Partnern ist, berichtet Professor Dr. Stephan Günnemann, Sprecher der School und Professor für Data Analytics and Machine Learning an der TUM.

Professor Günnemann, was zeichnet relAI als exzellente Graduiertenschule für den KI-Nachwuchs aus?

Mit der Zuverlässigkeit von AI-Technologie adressieren die Projektpartner TUM und LMU ein hochrelevantes Thema, das nicht nur technologisch interessant ist. Es hat auch einen starken sozialen Einfluss, denn ohne Sicherheit und Zuverlässigkeit wird man KI-Methoden nicht in der Gesellschaft anwenden wollen. Dieser Fokus ist entscheidend und zeichnet uns aus.

Wie erforschen Sie die KI-Zuverlässigkeit?

Zum einen kombinieren wir die Grundlagen- und Methodenforschung mit der direkten Anwendung in relevanten Domänen wie Robotik, dem Autonomen Fahren, Medizin oder Decision Making, also Entscheidungsfindung. Wir arbeiten dabei mit einem breiten Spektrum von Forschenden zusammen – Mathematikerinnen und Mathematikern, Informatikern und Informatikerinnen, aber auch Wissenschaftlerinnen und Wissenschaftlern aus den verschiedenen Anwendungsdomänen. Auf diese interdisziplinäre Zusammenarbeit legen wir auch in der Ausbildung Wert, Doktorandinnen und Doktoranden werden sowohl von Expertinnen und Experten aus der methodenbasierten wie aus der anwendungsorientierten Forschung betreut. Mittelfristig ist auch die enge Zusammenarbeit mit den Industriepartnern angedacht, um die in der School entwickelten Methoden in den Unternehmen zu erproben.

Sie selbst haben in der Forschungsabteilung eines Unternehmens gearbeitet und kennen auch die andere Seite. Ist in Deutschland viel zu tun, um Wissenschaft und Wirtschaft stärker zusammenzubringen?

KI ist ein gutes Thema, um eng zusammenzuarbeiten, denn es geht dabei immer um ein konkretes Ziel. Die Industrie kennt die realen Probleme, deshalb ist die Zusammenarbeit besonders fruchtbar. In relAI wird es darum gehen, auch Masterandinnen und Masteranden schon in einer frühen Phase mit Unternehmen zusammenzubringen. Denn das Ziel der Zuse Schools ist es nicht nur, im engen Austausch mit der Wirtschaft praktische Erfahrungen zu vermitteln. Den Kandidatinnen und Kandidaten soll auch ermöglicht werden, zu entdecken, was man im KI-Bereich alles machen kann – das ist vielen Studierenden gar nicht klar.

Die Förderung des DAAD erhält die TUM seit Juli 2022. Welche Schritte stehen nun an?

Ein erstes Treffen, unsere erste Fellow Assembly, auf der alle Gründungsmitglieder zusammenkamen und auch formal die Gremien wählten, haben wir bereits durchgeführt. Zurzeit sind wir damit beschäftigt, das Curriculum zu schärfen und die Lehrangebote für das kommende Semester zu konsolidieren. Ein großer Vorteil ist, dass die Graduiertenschule in das Munich Data Science Institute der TUM eingebettet ist. Es unterstützt uns dabei, die Zuse School aufzubauen, bis wir ein eigenes Team zusammengestellt haben. Parallel zu den organisatorischen Aufgaben geht es nun darum, die Zuse School international sichtbar zu machen und dafür zu sorgen, dass wir die entsprechenden Kandidaten gewinnen.

Was versprechen Sie sich in diesem Zusammenhang von der Kooperation mit dem DAAD?

Der DAAD ist weltweit für den Austausch von Studierenden und Wissenschaftlerinnen und Wissenschaftlern bekannt und hat ein etabliertes Netzwerk von starken Partnern. Wir versprechen uns hierdurch eine hohe Sichtbarkeit unserer Zuse School und die Gewinnung internationaler Talente.

In der Zuse School arbeiten die beiden Partneruniversitäten TUM und LMU mit regionalen, aber auch mit sehr prominenten internationalen Partnern zusammen.

Das Netz der Kooperationspartner ist weit gespannt. Mit dabei sind neben den Fraunhofer Instituten für Kognitive Systeme sowie für Angewandte und Integrierte Sicherheit und dem Helmholtz Zentrum München auch KI-Zentren aus aller Welt, etwa an den Universitäten Stanford und Princeton. KI ist ein Thema von globaler Bedeutung, die Forschungscommunity ist international. Der Austausch mit weltweit führenden Universitäten ist deshalb ein wichtiger Baustein innerhalb der School. Exzellente Forschung zu machen heißt, sich international zu vernetzen. Unsere Teilnehmenden sollen bei unseren Partnern Forschungsaufenthalte machen können. Zugleich unterstützen wir, dass internationale Fellows nach Deutschland kommen und als Gastwissenschaftlerinnen und Gastwissenschaftler an der School mitwirken, sei es durch Forschungsarbeiten oder Vortragsreihen.

Die TUM ist gleich in zwei der Zuse Schools vertreten – gibt es da Berührungspunkte, tauschen Sie sich aus?

Es war schon in der Antragsphase unser Ziel, mit den beiden anderen Schools zusammenzuarbeiten, gemeinsame Workshops oder auch Messen durchzuführen. Die TUM ist auch an der ELIZA-School der TU Darmstadt beteiligt, bei der es ebenefalls um Maschinelles Lernen geht. Mit den Münchner Kolleginnen und Kollegen dieses Fachbereichs arbeiten wir ohnehin eng zusammen, da wird es sicher Anknüpfungspunkte geben. Letztlich geht es aber nicht nur um gemeinsame Aktivitäten, sondern vor allem darum, die Schools allgemein bekannt zu machen. Unser gemeinsames Ziel ist es, international mit diesen Schools aufzutreten und für den Innovationsstandort Deutschland zu werben. Darauf kommt es uns an und deshalb ist auch die Zusammenarbeit wichtig.

Und welches Ziel verfolgen die Kooperationspartner speziell mit relAI?

Die Sichtbarkeit des Themas und der Erfolg der Teilnehmenden stehen für uns an erster Stelle. Zum einen wünschen wir uns, dass Deutschland für das Thema reliable AI international bekannt wird und Studierende nach München an die School kommen, um daran zu forschen. Das zweite Ziel ist für mich, dass die Teilnehmenden von der School wirklich profitieren, erfolgreich sind, ein Netzwerk aufbauen durch die ganzen Partner, die wir dabeihaben, und untereinander in Kontakt bleiben. Wir planen daher längerfristig auch, ein Alumninetzwerk aufzubauen. Erfolgreiche Absolventinnen und Absolventen, die bei Top-Firmen arbeiten oder Professorinnen und Professoren an guten Universitäten werden und später selbst bei der School mitwirken wollen, sind wichtige Multiplikatoren. All dies sind Effekte, die wir mit der School erreichen wollen.“

Mehr Informationen zu relAI finden Sie .

Interview: Gunda Achterhold

Netzwerke und Kooperationen