München. Der Strombedarf der KI soll dank einer neuen Methode der Technischen Universität München (TUM) drastisch sinken.
Künstliche Intelligenz verbraucht viel Energie – ein Thema, das angesichts des Hypes um die KI bisher kaum beachtet wurde. Doch weil die KI auf immer breiterer Basis eingesetzt wird, wird der Energieverbrauch ein wichtiges Kriterium werden, vor allem vor dem Hintergrund ambitionierter Klimaziele.
Forschende der Technischen Universität München (TUM) haben nun eine innovative Methode entwickelt, um neuronale Netze für KI effizienter zu trainieren. Diese Methode reduziere den Stromverbrauch erheblich, indem sie hundertmal schneller arbeitet als herkömmliche Trainingsverfahren und dabei ähnlich genaue Ergebnisse liefert. Das Training der neuronalen Netzen erfordert nämlich große Rechenressourcen und damit einen hohen Stromverbrauch. Rechenzentren, die für KI-Anwendungen wie Large Language Models (LLM) benötigt werden, verbrauchen in Deutschland bereits etwa ein Prozent des gesamten Strombedarfs.
KI wird energieeffizient: Die neue Methode
Neuronale Netze, die in der KI unter anderem zur Sprachverarbeitung eingesetzt werden, funktionieren ähnlich wie das menschliche Gehirn. Sie bestehen aus verknüpften Knoten (künstliche Neuronen) – diese erhalten Eingabesignale, die dann mit Parametern gewichtet und aufsummiert werden. Wird ein festgelegter Schwellenwert überschritten, wird das Signal an die folgenden Knoten weitergegeben. Da für diese Trainingsmethode viele Wiederholungen benötigt werden, ist sie extrem aufwendig und benötigt viel Strom. Der neue Ansatz der Münchner Forscher fokussiert sich hingegen auf jene kritische Stellen der Trainingsdaten, an denen sich die Werte stark und schnell ändern. Dadurch kann der Rechenaufwand minimiert und der Trainingsprozess erheblich beschleunigt werden.
Die neue Methode wurde von Felix Dietrich, Professor für Physics-enhanced Machine Learning (Teil der School of Computation, Information and Technology der TUM), und seinem Team entwickelt. Diese ist nicht nur deutlich energieeffizienter, da sie den Strombedarf für das Training von neuronalen Netzen erheblich reduziert; sie arbeite außerdem hundertmal schneller als herkömmliche Trainingsmethoden – und dennoch sei die Qualität der Ergebnisse mit den bisher üblichen sogenannten iterativen Verfahren vergleichbar.