Energiehungrige Verarbeitung: Wattkosten, die den Einsatz von KI bestimmen?

In den letzten Jahren hat die Popularität kommerzieller KI-Produkte auf Basis generativer, vielseitiger KI-Systeme zugenommen, die einen einheitlichen Ansatz für die Integration von Machine Learning (ML)-Modellen in Technologien versprechen. Dieses Ziel der „Generalisierbarkeit“ geht jedoch mit hohen Umweltkosten einher, angesichts des Energiebedarfs dieser Systeme und der Menge an ausgestoßenem Kohlendioxid. In dieser Arbeit schlagen wir den ersten systematischen Vergleich der laufenden Inferenzkosten verschiedener Kategorien von ML-Systemen vor, die sowohl aufgabenspezifische (d. h. feinabgestimmte Modelle, die eine einzelne Aufgabe ausführen) als auch „allzweck“ Modelle (d. h. solche, die für mehrere Aufgaben trainiert wurden) abdecken. Wir messen die Einsatzkosten als die Energiemenge und das Kohlendioxid, das benötigt wird, um 1.000 Inferenzvorgänge an einem repräsentativen Benchmark-Datensatz mit diesen Modellen durchzuführen. Wir stellen fest, dass vielseitige, generative Architekturen um Größenordnungen teurer sind als aufgabenspezifische Systeme für verschiedene Aufgaben, selbst bei Kontrolle der Anzahl der Modellparameter. Abschließend diskutieren wir den aktuellen Trend zum Einsatz vielseitiger generativer ML-Systeme und warnen, dass ihr Nutzen bewusster gegen die steigenden Energie- und Emissionskosten abgewogen werden sollte. Alle Daten unserer Studie sind über eine interaktive Demo zugänglich, um weitere Erkundungen und Analysen zu ermöglichen.