Der tatsächliche KI-TCO: 24 Kostenpositionen

Kurzantwort

Der tatsächliche Total Cost of Ownership (TCO, die Gesamtkosten über die Laufzeit) einer KI-Lösung besteht aus 24 Positionen in sechs Blöcken: Aufbau, Technikbetrieb, Qualität und Sicherheit, Recht und Nachweis, Organisation sowie Steuerung und Exit. Modell- und Lizenzkosten sind darin selten der größte Block. Entscheidungsreif ist ein Case erst, wenn jede Position beziffert, begründet ausgeschlossen oder als unbekannt mit Risikopuffer geführt wird. Vergessene Positionen tauchen im Betrieb wieder auf, dann ohne Verhandlungsspielraum.

Die Kernaussagen

• Die Lizenzzeile ist der stabilste und oft kleinste Teil der Rechnung. Teuer wird KI bei Daten, Integration, Aufsicht und Betrieb.
• Nutzungsabhängige Kosten koppeln die Rechnung an den Erfolg. Ein gut angenommenes System kostet mehr, nicht weniger.
• Regulatorik ist ein Dauerposten: Schulung, Transparenz und Dokumentation nach der Verordnung (EU) 2024/1689 enden nicht mit dem Go-live.
• Exit-Kosten entscheiden über Verhandlungsmacht. Wer sie nicht vor Vertragsschluss kennt, verhandelt später aus der Schwäche.
• Das 24er-Raster erlaubt ein begründetes „nicht relevant“ je Position. Es erlaubt kein „vergessen“.

Warum die Frage jetzt zählt

Die Kostenfrage ist der am besten dokumentierte Stolperstein der aktuellen KI-Welle. Gartner warnte im Oktober 2024: Wer die Skalierungslogik seiner GenAI-Kosten nicht versteht, kann sich um 500 bis 1.000 Prozent verschätzen. Mehr als 90 Prozent der befragten CIOs nannten Kostenmanagement als Begrenzung des Wertbeitrags. Schon 2023 lagen die Ausgaben allein für die Erprobung laut Gartner zwischen 300.000 und 2,9 Millionen US-Dollar. Passend dazu nennt die Abbruchforschung eskalierende Kosten als wiederkehrenden Grund: Gartner (2024) für aufgegebene GenAI-Projekte, S&P Global (2025) für die 42 Prozent der Unternehmen, die die Mehrheit ihrer KI-Initiativen gestoppt haben.

Gleichzeitig ist KI im deutschen Mittelstand angekommen. Laut Bitkom (2025) setzen 36 Prozent der Unternehmen ab 20 Beschäftigten KI ein, doppelt so viele wie im Vorjahr. Die Budgets werden also gerade jetzt geschrieben. Wer heute nur Lizenzen plant, kauft die Kostenüberraschung von morgen.

Warum die Lizenzzeile in die Irre führt

Bei klassischer Software ist die Lizenz ein brauchbarer Anker für die Gesamtkosten. Bei KI bricht diese Heuristik aus drei Gründen.

Erstens skaliert die Rechnung mit der Nutzung. Viele Dienste rechnen je verarbeiteter Texteinheit (Token) ab. Inferenz, also der laufende Betrieb des Modells bei jeder Anfrage, wird damit zur variablen Größe. Steigt die Adoption, steigt die Rechnung. Lange Eingaben, angehängte Dokumente und teure Modelle für triviale Aufgaben treiben sie zusätzlich, ein Muster, das Gartner 2024 ausdrücklich als Kostentreiber beschrieb.

Zweitens liegt die eigentliche Arbeit vor und neben dem Modell. Datenbereinigung, Anbindung an Bestandssysteme, Berechtigungen, Testdaten und Qualitätssicherung stehen in keiner Preisliste des Anbieters, machen aber den Unterschied zwischen Demo und Betrieb. Das MIT-Projekt NANDA (2025) fand, dass nur 5 Prozent der untersuchten unternehmensspezifischen KI-Werkzeuge die Produktion erreichten; die Ursachen lagen überwiegend in Integration und Arbeitsablauf, nicht im Modell.

Drittens erzeugt Regulierung wiederkehrende Pflichten. Die Verordnung (EU) 2024/1689 verlangt in Artikel 4 seit dem 2. Februar 2025 ausreichende KI-Kompetenz des Personals. Artikel 50 bringt Transparenzpflichten für bestimmte Systeme. Für Hochrisiko-Anwendungen gelten ab dem 2. August 2026 umfassende Anforderungen an Risikomanagement, Protokollierung und menschliche Aufsicht. Das sind Betriebskosten mit Rechtsgrund, keine Projektspesen.

Die Lizenzzeile ist der kleinste ehrliche Teil eines KI-Budgets. Wer nur sie budgetiert, kauft eine Wette ohne Einsatzlimit.

Die 24 Positionen im Überblick

Das folgende Raster ist ein redaktionelles Prüfwerkzeug, keine Norm. Es ordnet die 24 Positionen in sechs Blöcke und markiert je Position, ob sie einmalig oder laufend anfällt und ob sie in typischen Freigabeunterlagen sichtbar ist oder versteckt bleibt.

Nr.	Kostenposition	Einmalig/Laufend	Sichtbar/Versteckt	Typische Unterschätzung
1	Prozess- und Problemanalyse	Einmalig	Sichtbar	Wird als Nebenaufwand des Fachbereichs verbucht
2	Datenbeschaffung und -bereinigung	Einmalig, oft wiederkehrend	Versteckt	Datenqualität schlechter als angenommen
3	Aufbau Test- und Evaluationsdaten	Einmalig	Versteckt	Ohne Referenzfälle keine belastbare Qualitätsmessung
4	Integration in Systeme und Schnittstellen	Einmalig	Sichtbar	Altsysteme ohne saubere Schnittstellen
5	Berechtigungen und Identitätsmanagement	Einmalig	Versteckt	KI-Zugriff auf Daten, die der Nutzer nicht sehen dürfte
6	Lizenzen und Modellzugang	Laufend	Sichtbar	Preiserhöhungen der Anbieter
7	Nutzungsabhängige Inferenzkosten	Laufend	Versteckt	Skaliert mit Erfolg und Eingabelänge
8	Infrastruktur und Hosting	Laufend	Sichtbar	EU-Hosting- und Verfügbarkeitsanforderungen
9	Logging und Monitoring	Laufend	Versteckt	Wird erst nach dem ersten Vorfall aufgebaut
10	Evaluation und Regressionstests nach Modellwechseln	Laufend	Versteckt	Anbieter tauschen Modelle ohne lange Vorlauffrist
11	Menschliche Zweitprüfung	Laufend	Versteckt	Bleibt dauerhaft statt geplant drei Monate
12	Security-Tests und Red-Teaming	Laufend	Versteckt	Prompt-Angriffe und Datenabfluss werden nicht getestet
13	Datenschutz, AV-Verträge, Folgenabschätzung	Einmalig und laufend	Sichtbar	Nachverhandlung bei Anbieter- oder Modellwechsel
14	Pflichten nach Verordnung (EU) 2024/1689	Laufend	Versteckt	Transparenz und Dokumentation als Dauerbetrieb
15	KI-Kompetenz-Schulung nach Artikel 4	Laufend	Versteckt	Gilt seit Februar 2025 für alle Betreiber
16	Audit- und Zertifizierungsaufwand (z. B. ISO/IEC 42001)	Laufend	Versteckt	Nachweisarbeit für Kunden und Prüfer
17	Fachliche Schulung und Adoptionsarbeit	Einmalig und laufend	Sichtbar	Einmalschulung erzeugt keine Nutzung
18	Mitbestimmung und Betriebsvereinbarung	Einmalig	Versteckt	Späte Einbindung verzögert den Go-live
19	Support über alle Stufen	Laufend	Sichtbar	Fachliche Rückfragen landen bei Schlüsselpersonen
20	Pflege von Prompts, Regeln und Workflows	Laufend	Versteckt	Wird niemandem als Rolle zugewiesen
21	Vendor-Management und Preisverhandlung	Laufend	Versteckt	Kein Benchmarking, keine Verhandlungsroutine
22	Internes Projekt- und Produktmanagement	Laufend	Sichtbar	Nach Projektende fehlt der Produktverantwortliche
23	Exit, Datenexport und Abschaltung	Einmalig am Ende	Versteckt	Wird erst bei Kündigung kalkuliert
24	Opportunitätskosten gebundener Schlüsselleute	Laufend	Versteckt	Die knappsten Leute stecken im KI-Projekt

Die Nutzung ist einfach und streng: Jede Position erhält einen Betrag, ein begründetes „nicht relevant“ oder ein „unbekannt“ mit Risikopuffer. Ab einer definierten Schwelle blockiert ein unbegründetes Unbekannt die Freigabe.

Die teuersten Blindstellen im Detail

Drei Positionen verdienen besondere Aufmerksamkeit, weil sie in Freigaben fast immer fehlen und im Betrieb am meisten kosten.

Position 10, die Re-Evaluation nach Modellwechseln, ist die unterschätzte Daueraufgabe. KI-Anbieter aktualisieren Modelle laufend; Verhalten und Fehlerbild ändern sich dabei. Jede Umstellung erfordert erneute Tests gegen die eigenen Referenzfälle. Ohne Evaluationsdaten aus Position 3 ist das nicht möglich, dann wird jede Modellumstellung zum unkontrollierten Experiment am lebenden Prozess.

Position 11, die menschliche Zweitprüfung, ist der stille Margenkiller. Sie wird als Übergangsmaßnahme geplant und bleibt oft dauerhaft, weil die Fehlerquote nicht wie erhofft sinkt oder weil Regulatorik menschliche Aufsicht verlangt. Ein Case, der die Zweitprüfung nach drei Monaten auf null setzt, sollte begründen müssen, warum ausgerechnet hier gelingt, was vielerorts nicht gelingt.

Position 23, der Exit, ist die Position mit dem größten Hebel pro investierter Stunde. Datenexportformate, Unterstützungspflichten des Anbieters, Kündigungsfristen und die Kosten eines Parallelbetriebs beim Wechsel lassen sich vor Vertragsschluss günstig regeln. Danach bestimmt sie der Anbieter.

Exit-Kosten, die erst bei der Kündigung berechnet werden, sind keine Kosten. Sie sind ein Pfand in der Hand des Anbieters.

Vom Raster zur Entscheidung

Das Raster entfaltet Wirkung erst in der Freigabelogik. Drei Regeln haben sich bewährt.

Erstens: Run-Kosten über 24 bis 36 Monate modellieren, nicht bis zum Go-live. Die Blöcke Technikbetrieb, Qualität und Recht laufen über die gesamte Nutzungsdauer. Ein Nutzungswachstums-Szenario gehört dazu, denn Position 7 steigt mit dem Erfolg.

Zweitens: Sichtbar machen, wer zahlt. Etliche Positionen fallen im Fachbereich an, nicht im IT-Budget: Zweitprüfung, Adoptionsarbeit, Prompt-Pflege, Supportrückfragen. Werden sie nicht ausgewiesen, wirkt das Projekt günstig, während die Linie die Kosten unsichtbar trägt.

Drittens: Das Raster in den Betrieb verlängern. Nach dem Go-live werden TCO-Ist-Werte quartalsweise gegen den Plan gestellt, insbesondere die nutzungsabhängigen Positionen. Deloitte (2024) fand, dass nur 16 Prozent der Organisationen dem CFO regelmäßig über den mit GenAI geschaffenen Wert berichten. Dieselbe Disziplinlücke gilt für Kosten, und sie ist dort schneller existenziell.

Zur fairen Gegenposition: Ein 24-Zeilen-Raster kann Vorhaben auch erdrücken. Für ein kleines Werkzeug mit niedrigen fünfstelligen Jahreskosten genügt eine verkürzte Prüfung der Blöcke Technikbetrieb, Recht und Exit. Das Raster ist für Vorhaben gedacht, deren Scheitern weh tut: sechsstellige Budgets, Prozesse mit Außenwirkung, lange Vertragsbindung.

Maßnahmen für die Geschäftsführung

Bis Tag 30 (Owner: CFO gemeinsam mit IT-Leitung):

• Das 24er-Raster auf die drei größten laufenden oder geplanten KI-Vorhaben anwenden.
• Jede Lücke als Betrag, begründetes Nicht-relevant oder Unbekannt mit Puffer klassifizieren.
• Ist-Kosten der letzten sechs Monate je Vorhaben erheben, getrennt nach fix und nutzungsabhängig.

Bis Tag 60 (Owner: Einkauf/Vendor-Management):

• Exit-Klauseln, Datenexport und Preisgleitmechanismen der laufenden KI-Verträge prüfen und Nachverhandlungsliste erstellen.
• Schwellen definieren, ab denen unbegründete Unbekannt-Positionen eine Freigabe blockieren.
• Verantwortliche für Position 10 (Re-Evaluation) und Position 20 (Prompt- und Regelpflege) benennen.

Bis Tag 90 (Owner: Geschäftsführung):

• TCO-Quartalsreview je Vorhaben einführen, mit nutzungsabhängigen Kosten als Pflichtpunkt.
• Schulungsprogramm nach Artikel 4 der Verordnung (EU) 2024/1689 budgetieren und terminieren.
• Freigaberegel beschließen: kein neues KI-Vorhaben oberhalb der Schwelle ohne ausgefülltes Raster.

Was Führung jetzt entscheiden muss

Häufige Fragen (FAQ)

Wie stark unterschätzen Unternehmen die Kosten eines KI-Projekts typischerweise?

Gartner bezifferte 2024 mögliche Fehleinschätzungen der GenAI-Kosten auf 500 bis 1.000 Prozent, wenn die Skalierungslogik nicht verstanden wird. Schon in der Erprobungsphase gaben Unternehmen 2023 laut Gartner zwischen 300.000 und 2,9 Millionen US-Dollar aus. Die Treiber sind nutzungsabhängige Inferenzkosten, Datenaufbereitung, Preiserhöhungen der Anbieter und der Einsatz teurer Modelle für einfache Aufgaben. Wer nur die Lizenzzeile budgetiert, plant den kleinsten und stabilsten Teil der Rechnung.

Welche Kosten verursacht der EU AI Act konkret in unserem TCO?

Die Verordnung (EU) 2024/1689 erzeugt wiederkehrende Positionen, keine Einmalkosten. Artikel 4 verlangt seit Februar 2025 ausreichende KI-Kompetenz des Personals, also laufende Schulung. Artikel 50 bringt Transparenz- und Kennzeichnungspflichten für bestimmte Systeme. Für Hochrisiko-Systeme gelten ab August 2026 umfangreiche Anforderungen an Risikomanagement, Dokumentation und Aufsicht. Verstöße können nach Artikel 99 mit bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes geahndet werden. Diese Pflichten gehören als Positionen 13 bis 16 in jeden Case.

Ist Eigenbetrieb mit einem offenen Modell günstiger als eine SaaS-Lizenz?

Pauschal lässt sich das nicht beantworten, das 24er-Raster muss auf beide Varianten angewendet werden. Eigenbetrieb senkt Lizenz- und Volumenkosten, erhöht aber Infrastruktur, Monitoring, Security-Tests und vor allem den Bedarf an knappen Fachleuten, also Position 24. SaaS verschiebt Kosten in Lizenzen, nutzungsabhängige Gebühren und Vendor-Abhängigkeit inklusive Exit-Risiko. Entscheidend sind Nutzungsvolumen, vorhandene Kompetenz und die Frage, wie schnell ein Anbieterwechsel im Ernstfall möglich sein muss.

Womit fangen wir an, wenn unser laufendes KI-Projekt nie einen vollständigen TCO hatte?

Mit einer Nachkalkulation über das 24er-Raster für das größte laufende Vorhaben, terminiert auf 30 Tage. Jede Position erhält einen Betrag, ein begründetes Nicht-relevant oder ein Unbekannt mit Risikopuffer. Danach werden die Ist-Kosten der letzten sechs Monate dagegen gestellt, insbesondere die nutzungsabhängigen. Das Ergebnis geht mit einer klaren Empfehlung in die nächste Führungsrunde: weiterführen, nachverhandeln oder Scope reduzieren. Erst danach lohnt der Roll-out auf weitere Vorhaben.

Welche der 24 Positionen wird am häufigsten vergessen, und was kostet das?

In der Praxis fehlen am häufigsten die Re-Evaluation nach Modellwechseln und die Exit-Position. Anbieter tauschen Modellversionen teils ohne lange Vorlauffrist; jede Umstellung erfordert erneute Tests gegen die eigenen Fälle, sonst wandert das Qualitätsrisiko unbemerkt in den Betrieb. Fehlende Exit-Planung wird beim Anbieterwechsel teuer: Datenexport, Nachdokumentation und Parallelbetrieb fallen dann unter Zeitdruck an. Beide Positionen kosten wenig, wenn sie früh verhandelt werden, und viel, wenn sie spät entdeckt werden.

Evidenz und Grenzen

Belegt sind die Größenordnung möglicher Kostenfehleinschätzungen und die Erprobungsausgaben (Gartner 2024), Kosten als Abbruchgrund (Gartner 2024, S&P Global 2025), die geringe Produktionsquote unternehmensspezifischer Werkzeuge (MIT NANDA 2025), die Verbreitung von KI im deutschen Mittelstand (Bitkom 2025) sowie die regulatorischen Pflichten samt Fristen und Sanktionsrahmen (Verordnung (EU) 2024/1689; ISO/IEC 42001). Redaktionelle Einschätzung sind das 24er-Raster selbst, die Blockeinteilung und die Spalte der typischen Unterschätzungen; sie sind Praxisheuristik, keine Norm. Der Artikel liefert keine Preisbenchmarks und ersetzt keine unternehmensindividuelle Kalkulation. Anteilswerte einzelner Blöcke am Gesamt-TCO variieren stark nach Use Case; deshalb nennt der Artikel bewusst keine pauschalen Prozentverteilungen.

Quellen und Methodik

1. Gartner: „Gartner Identifies Four Emerging Challenges to Delivering Value from AI Safely and at Scale“, Pressemitteilung, 21.10.2024, gartner.com/en/newsroom/press-releases/2024-10-21-gartner-identifies-four-emerging-challenges-to-delivering-value-from-ai-safely-and-at-scale.
2. Gartner: „Gartner Predicts 30% of Generative AI Projects Will Be Abandoned After Proof of Concept By End of 2025“, Pressemitteilung, 29.07.2024.
3. S&P Global Market Intelligence: „Voice of the Enterprise: AI & Machine Learning, Use Cases 2025“, März 2025 (1.006 Befragte in Nordamerika und Europa).
4. MIT Media Lab, Project NANDA: „The GenAI Divide: State of AI in Business 2025“, Juli 2025.
5. Bitkom Research: „Künstliche Intelligenz 2025“, repräsentative Befragung von 604 Unternehmen ab 20 Beschäftigten, September 2025, bitkom.org.
6. Europäische Union: Verordnung (EU) 2024/1689 (KI-Verordnung), Amtsblatt der EU, 12.07.2024; insbesondere Artikel 4, Artikel 50, Kapitel III und Artikel 99.
7. ISO/IEC 42001:2023 — Managementsystem für Künstliche Intelligenz, Internationale Organisation für Normung, 2023.
8. Deloitte AI Institute: „The State of Generative AI in the Enterprise“, dritte Quartalsausgabe, 2024 (2.770 Befragte in 14 Ländern).

Methodik: Recherchebasierter Redaktionsbeitrag. Alle externen Zahlen wurden per Web-Recherche gegen die genannten Herausgeber verifiziert; das 24er-Raster ist ein gekennzeichnetes redaktionelles Prüfwerkzeug. Die Erstfassung entstand mit KI-Unterstützung; Faktenprüfung und redaktionelle Freigabe erfolgen durch Menschen vor Veröffentlichung.

Änderungsprotokoll

Datum	Änderung
2026-07-23	Erstfassung Launch-Korpus (Status: draft)
2026-07-23	Vollständige Neufassung nach Qualitäts-Spec: 24 Positionen als strukturierte Tabelle, Blindstellen-Analyse, verifizierte Quellen, FAQ

Das Entscheider-Briefing

Ein Briefing pro Woche: Entscheidungsfragen, eingeordnete Zahlen und Fristen. Ihre Adresse geben wir nicht weiter.

Website

E-Mail-Adresse

Briefing abonnieren

Ich möchte das Briefing per E-Mail erhalten und kann die Einwilligung jederzeit widerrufen. Die Datenschutzerklärung habe ich gelesen.

Sie erhalten zuerst eine E-Mail mit einem Bestätigungslink. Erst nach dem Klick nehmen wir Sie auf. Abmeldung mit einem Klick in jeder Ausgabe.