Kosten Für KI : Schon bei der Abrechnung fängt das Problem an
Deutsche Unternehmen geben Milliarden für Künstliche Intelligenz aus – Tendenz stark steigend. Eine F.A.Z.-Umfrage zeigt: Zum Eindämmen der Kosten verfolgen sie unterschiedliche Strategien.
Der Einsatz von Künstlicher Intelligenz kostet Geld. Viel Geld. So viel, dass die jährlichen Ausgaben für ChatGPT & Co mittlerweile zu einem beträchtlichen Kostenblock für Unternehmen angewachsen sind. Die Zweifel wachsen, ob der Einsatz von immer mehr KI auch in gleichem Maße zu mehr Effizienz führt. Eine Recherche der F.A.Z. zeigt, dass das Thema in den Vorstandsetagen angekommen ist: Jeder versucht auf seine Weise, die Kosten im Griff zu halten. Mal nur mit Aufklärung und Kontrolle, mal mit Limits und Kontingenten und mal mit vorgeschalteten Systemen wie „Prompt Catching“ oder „Model Routing“, die dafür sorgen sollen, dass nicht immer die teuerste Lösung zum Einsatz kommt. „Der Tokenverbrauch ist für viele Unternehmen ein riesiges Thema“, sagte zuletzt der Roland-Berger-Chef Stefan Schaible vor Journalisten in Frankfurt.
Schon bei der Abrechnungseinheit aber fängt das Problem an. Abgerechnet wird nämlich nicht nach Zeit oder Ergebnis, sondern nach Tokens. So heißen die Texteinheiten, die von großen Sprachmodellen verarbeitet werden. Je nach Abfrage braucht es mehr oder weniger davon. Abgerechnet wird meist auf Basis von einer Million verarbeiteter Token, das entspricht etwa 750.000 Wörtern oder 2500 Buchseiten. Grob überschlagen kann man sagen, dass eine Stunde intensive Textnutzung (mit insgesamt etwa 20.000 Input- und 10.000 Output-Tokens, also insgesamt rund 75 Buchseiten Chat) bei aktuellen Listenpreisen je nach Modellklasse zwischen unter einem Cent und rund 70 US-Cent kostet. Bei einem leistungsfähigen Modell aus der Mitte dieses Spektrums wären es etwa 14 US-Cent, rechnet ein Berater von Accenture vor. Zusätzliche Kosten könnten noch für weitere Datenzugriffe oder andere Tools anfallen.
Die Analysten von Goldman Sachs gehen davon aus, dass der Token-Verbrauch bis 2030 um das Vierundzwanzigfache wächst, weil Verbraucher und Unternehmen immer mehr sogenannte KI-Agenten einsetzen, die digitale Aufgabenketten selbständig planen, umsetzen und kontrollieren können. Die einzelnen Tokens werden zwar günstiger, weil die Effizienz der Modelle wächst, die Kosten für die Unternehmen steigen aber trotzdem stark an, weil viel mehr davon gebraucht werden. Wirtschaftswissenschaftler kennen das Phänomen unter dem Namen „Jevons-Paradox“, benannt nach dem britischen Ökonomen William Stanley Jevons. Er hat schon im 19. Jahrhundert beim Aufkommen der Dampfmaschinen beobachtet, dass der Gesamtverbrauch trotz immer effizienterer Maschinen steigen kann, weil die Effizienzsteigerungen zu einem Mehreinsatz der Maschinen führen.
In Amerika hat etwa der Fahrdienstleister Uber für Schlagzeilen gesorgt, als er dieses Jahr verkündete, die Mitarbeiter hätten schon nach vier Monaten das gesamte Jahresbudget für KI-Programmiertools aufgebraucht.
28,7 Milliarden Euro für Künstliche Intelligenz
Die Zahlen aus Deutschland sprechen eine klare Sprache. Allein die Ausgaben für generative KI wie ChatGPT, Claude, Microsoft Copilot oder Google Gemini werden sich nach Einschätzung des Digitalverbands Bitkom dieses Jahr auf 11,5 Milliarden Euro verdoppeln. Nimmt man Hardware und Dienstleistungen dazu, fließen dieses Jahr 28,7 Milliarden Euro in KI.
Die Euphorie in Unternehmen hat dazu geführt, dass anfangs oft mit Kanonen auf Spatzen geschossen wurde. So kamen für einfache Aufgaben – wie das Zusammenfassen von Studien – sehr leistungsstarke KI-Modelle zum Einsatz, die entsprechend viele Token benötigen, obwohl die Aufgaben auch von schwächeren Systemen sparsamer gelöst werden könnten. Nach einer Auswertung der Unternehmensberatung Accenture brauchen typischerweise nur 10 Prozent der in Unternehmen anfallenden KI-Aufgaben die aktuell leistungsfähigsten Modelle. Dennoch würden derzeit mehr als die Hälfte aller KI-Anfragen in Unternehmen an genau diese Modelle weitergeleitet. „Nur 30 Prozent der Unternehmen nutzen schon ein automatisiertes Modell-Routing, um für jede Aufgabe das passende Modell einzusetzen“, sagt Accenture-Deutschland-Chefin Christina Raab im Gespräch mit der F.A.Z. Darin stecke noch erhebliches Sparpotential.
Die Unternehmen suchen derweil noch nach dem besten Weg, um die Kosten zu deckeln, ohne die Effizienz zu bremsen. Der Autozulieferer Bosch berichtet bislang von keiner Beschränkungen in der KI-Nutzung. „Wir verfolgen das Thema aufmerksam, und wir gehen davon aus, dass der positive Nutzen die Kosten überwiegt, aber die Nutzungsregeln haben wir bislang nicht geändert“, sagt Finanzchef Markus Forschner.
„Tokenomics“ bei Mercedes
Beim Autohersteller Mercedes werden die KI-Kosten den Fachbereichen zugeschrieben, die die Modelle einsetzen. Ein personenbezogenes Token-Limit gebe es nicht, aber eines für sehr rechenintensive Anwendungen, das bei Bedarf ausgeweitet werden könne. „Die Mitarbeiter, die die wichtigen Lösungen entwickeln, haben Zugang zu den Modellen“, heißt es auf Anfrage. Dabei sollen die rechenintensiven Modelle den Entwicklungen mit der höchsten Wertschöpfung vorbehalten sein. Zudem klärt Mercedes seine Mitarbeiter im Rahmen des Programms „Tokenomics“ darüber auf, wie man möglichst effizient zu einer Lösung kommt und welche Kosten mit der Nutzung von KI verbunden sind.
Der Onlinemodekonzern Zalando setzt wie andere auch auf flexible Nutzungslimits. „Wir investieren viel, aber es muss sich lohnen“, sagt Technikchef Graeme Smith. Bei jeder Entwicklung einer neuen KI-Funktion rechne Zalando die KI-Kosten durch und stelle sie dem Nutzen für die eigene Plattform gegenüber. Wenn diese Rechnung nicht aufgehe, werde das Projekt eingestellt. Die KI-Nutzungslimits für Mitarbeiter sollen den cleveren Umgang mit KI fördern, sagt Smith. Wenn ein Softwareentwickler sein Limit erreiche, könne er mehr Tokens erhalten, müsse dies aber gut begründen.
Selbst Europas größter Softwarekonzern SAP muss die Kosten der KI im Blick behalten. Token-Kosten würden wie jeder andere Kostenblock behandelt, transparent und den Bereichen zugeordnet, heißt es. Gleichzeitig optimiere der Konzern systematisch und leite die Anfrage je nach Aufgabe zu dem Modell mit dem besten Kosten-Nutzen-Verhältnis. KI-Tools stünden den Mitarbeitern breit zur Verfügung. Es gebe zugleich aber „individuelle Nutzungspläne, rollenbasiert und an den Geschäftsbedarf angepasst“. Bedeutet: Auch SAP begrenzt also den Zugriff auf KI.
Die Deutsche Bank will zwei Milliarden Euro im Jahr sparen
Der Pharmakonzern Fresenius teilt mit, ein großer Teil der „KI-Nutzung in der Breite“ finde über „Subscription“-Lösungen statt, also der Softwaremiete je Nutzer. Das Kostenrisiko liege entweder beim Anbieter der Lösung, oder Nutzungslimits seien direkt in die Applikation integriert. Bei Eigenentwicklungen überwache der Konzern den Tokenverbrauch.
Welche finanzielle Relevanz das Thema hat, zeigt die Deutsche Bank. Der stärkere Einsatz von KI soll dort helfen, zwei Milliarden Euro im Jahr zu sparen und die Profitabilität zu erhöhen. Die Kosten für die KI-Nutzung weist die Bank wie viele nicht eigens aus, aber in Summe geht es um sehr viel Geld: So will die Unternehmensbank bis 2028 rund 1,4 Milliarden Euro in Technologie investieren, bei der Investmentbank sind es eine Milliarde Euro und bei der Privatkundenbank weitere rund 600 Millionen Euro. Das Institut setzt dabei auf zwei „Produktivitätstools“: den internen KI-Assistenten „dbLumina“ sowie Microsofts Copilot. Begrenzungen bei der Nutzung gibt es für die allgemeinen Tätigkeiten bei der Bank nach eigenen Angaben nicht, trotzdem erfasse man anonymisiert Daten – schon um die Akzeptanz der Produktivitätswerkzeuge zu messen, wie es heißt. Anders sehe es bei der Softwareentwicklung aus: Hier gebe es KI-Kontingente für die einzelnen Projekte.
Der Technologiekonzern Zeiss schaut nach eigenen Angaben genauer auf die Anwendung der verschiedener Rechenmodelle. Das Unternehmen bietet den Beschäftigten sowohl eine pauschale Nutzung als auch einen tokenabhängigen Zugang an, der in wenigen Fällen bei Erreichen eines Limits beschränkt werde und nach individueller Anforderung erweitert werden könne. „Zugleich sind nicht alle, insbesondere hochpreisige Modelle, für jeden Mitarbeitenden im unmittelbaren Zugriff“, sagte eine Sprecherin. Mitarbeiter hätten die Möglichkeit das für ihren Bedarf geeignete Modell, auch unter Kosten-Nutzen-Abwägungen, auszuwählen.
Kostenbewusstsein statt Nutzungsbeschränkungen bei Merck
Der Darmstädter Pharmakonzern Merck setzt beim Einsatz von KI nach eigenen Angaben auf Transparenz und Kostenbewusstsein statt auf pauschale Nutzungsbeschränkungen. Mitarbeitende könnten ihren Token-Verbrauch und die damit verbundenen Kosten jederzeit nachvollziehen und würden dabei unterstützt, das jeweils passende Modell für ihren Anwendungsfall auszuwählen. Zudem seien „effiziente Modelle als Standard voreingestellt“ und der verantwortungsvolle Umgang mit KI-Ressourcen „fester Bestandteil unserer Schulungen.“
Auf Schulungen – im Vorstandsdeutsch: „Upskilling-Angebote“ – setzt nach eigenem Bekunden auch der Energiekonzern Eon. Allen 78.000 Mitarbeitern stünden verschiedene KI-Tools zur Verfügung, allerdings mit Blick auf die Wirtschaftlichkeit und „gezielten Budgetleitplanken“.
Türsteher bei Siemens
Siemens nennt konkret den Einsatz von Instrumenten wie „Prompt Caching“ oder „Model Routing“, um das Ergebnis pro eingesetztem Token zu optimieren. Prompt Caching vermeidet, dass ein Modell denselben Kontext bei jeder Anfrage nochmals vollständig verarbeitet. Model Routing entscheidet, welches Modell eine konkrete Aufgabe bearbeiten soll. Zwei Türsteher also, die die KI kontrollieren.
Die Berater von Accenture gehen davon aus, dass die Kosten für die KI-Nutzung weiter steigen. Die Unternehmensberatung befragte diesen Sommer 750 Führungskräfte aus Unternehmen mit mehr als einer Milliarde Dollar Jahresumsatz in siebzehn Ländern über den wirtschaftlichen Einsatz von KI in Unternehmen. Die Manager erwarten zwar, dass die Preise für Token in den kommenden zwei Jahren noch mal um knapp 20 Prozent sinken werden, ihr eigener Tokenverbrauch im selben Zeitraum aber voraussichtlich um knapp 80 Prozent wachsen wird.