Das Forschungsquartett — dieses Mal in Kooperation mit dem CISPA Helmholtz-Zentrum für Informationssicherheit
Physik trifft Deep Learning
Die großen KI-Modelle wie ChatGPT, Gemini oder Copilot verändern unseren Alltag — und brauchen dafür riesige Mengen an Rechenleistung, Energie und Daten. Entwickelt werden sie fast ausschließlich von Tech-Konzernen wie OpenAI, Google oder Microsoft. Das sorgt nicht nur für einen enormen Ressourcenverbrauch, sondern auch dafür, dass nur wenige die Macht über die Daten bei sich behalten. Und diese wenigen Akteure bestimmen dann, wie die Modelle trainiert werden, welche Daten sie nutzen und wie ihre Entscheidungen getroffen werden. Rebekka Burkholz vom CISPA Helmholtz-Zentrum für Informationssicherheit will das ändern. Sie arbeitet daran, Deep Learning zu demokratisieren und so KI-Modelle effizienter und breiter zugänglich zu machen. Sie wurde für das Projekt mit dem Namen SPARSE-ML mit einem ERC Starting Grant des Europäischen Forschungsrats ausgezeichnet.
Ganz besonders interessiert uns, wie wir eine Technik, die sehr verbreitet ist und gerade viele Durchbrüche erzielt hat — nämlich Deep Learning –, wie wir das effizienter gestalten können. Rebekka Burkholz, leitende Wissenschaftlerin am CISPA Helmholtz-Zentrum für Informationssicherheit
Foto: Ebelshäuser/CISPA
Effizienter und nachvollziehbarer
Der Ansatz: künstliche neuronale Netze so gestalten, dass sie nicht größer sind als nötig. Und zwar, indem Konzepte aus der Physik auf KI übertragen werden. So kann man herausfinden, wie viel Komplexität ein Modell tatsächlich braucht und worauf man verzichten kann. Das spart am Ende nicht nur Rechenleistung, sondern macht die Modelle auch transparenter. Gerade für sensible Anwendungsbereiche wie in der Medizin oder der Wissenschaft ist das ein entscheidender Vorteil.
Es wird auch schnell philosophisch bei der Frage: Wie komplex ist denn unsere Welt und wie komplex müssen die Modelle sein, um die Aufgaben, die wir stellen, zu lösen? Rebekka Burkholz, leitende Wissenschaftlerin am CISPA Helmholtz-Zentrum für Informationssicherheit
Wie man Deep Learning demokratisieren kann, das erforscht Dr. Rebekka Burkholz am CISPA Helmholtz-Zentrum für Informationssicherheit. Im „Forschungsquartett“-Gespräch mit detektor.fm-Redakteurin Esther Stephan erklärt sie, warum das notwendig ist, und wieso kleinere KI-Modelle vielleicht sogar besser sind.