KI-Verantwortung im DACH-Mittelstand
12 Min. Lesezeit
Jetzt lesenTitel steuern keine Transformation. Entscheidend ist, wer Budget freigibt, Architektur setzt, produktiv schaltet und stoppen darf — schriftlich, mit Frist.
Wer die KI-Transformation steuert, entscheidet sich an vier Rechten, nicht am Titel: Ziel- und Risikorahmen, Budget- und Beschaffungsfreigabe, Architektur- und Datenhoheit sowie das Stopprecht. Der CEO behält Rahmen und Abbruch. Der CIO führt typischerweise Systeme und Integration. CDO oder CAIO steuern nur dann wirklich, wenn sie Budget- und Portfoliomandat besitzen. Jede dieser Zuweisungen gehört schriftlich in eine Rechte-Matrix mit Eskalationsfristen. Fehlt sie, entscheiden Zufall, Lautstärke und Dienstalter.
Der Markt sortiert die Rolle gerade neu. Laut IBM Institute for Business Value hatten Anfang 2025 weltweit 26 Prozent der Organisationen einen Chief AI Officer, in Deutschland 25 Prozent. Der Wharton-Report zur KI-Adoption zählte 2025 in US-Großunternehmen ab 1.000 Beschäftigten sogar 60 Prozent. Die Differenz erklärt die Studie selbst: Häufig ist der CAIO eine zusätzliche Zuständigkeit eines vorhandenen Executives, keine eigene Position. Gartner hatte im Oktober 2024 prognostiziert, dass bis Ende 2025 rund 35 Prozent der Großunternehmen eine solche Rolle führen.
Für den Mittelstand ist die Zahlendebatte zweitrangig. Relevant ist der Befund dahinter: Die Rolle wird massenhaft vergeben, aber selten mit Rechten hinterlegt. Gleichzeitig verschärft der Rechtsrahmen die Lage. Die Verordnung (EU) 2024/1689 verteilt Pflichten an Anbieter und Betreiber, seit August 2026 greifen die Betreiberpflichten für Hochrisiko-Systeme vollständig. Eine Aufsichtsbehörde fragt dann nicht, wie die interne Rolle heißt. Sie fragt, wer freigegeben, überwacht und gestoppt hat.
Wer jetzt Titel vergibt, ohne Rechte zu klären, baut sich für 2027 ein doppeltes Problem: eine blockierte Organisation und eine ungeklärte Nachweislage.
Hinter den vier Buchstabenkombinationen stehen vier verschiedene Logiken. Der CEO verantwortet das Geschäft und damit den Rahmen: Ziele, Risikotoleranz, Kapitalallokation. Der CIO verantwortet Systeme: Architektur, Integration, Betrieb, Sicherheit. Der CDO verantwortet Daten: Qualität, Zugriff, Modelle der Datennutzung. Der CAIO soll Wertschöpfung aus KI verantworten, quer zu allen dreien. Genau diese Querlage macht die Rolle so anfällig für Leerlauf.
Die McKinsey-Erhebung vom März 2025 zeigt das Muster: In 28 Prozent der KI-nutzenden Unternehmen beaufsichtigt der CEO die KI-Governance, in 17 Prozent das Board, und im Durchschnitt teilen sich zwei Führungskräfte die Verantwortung. Geteilte Verantwortung ist kein Fehler. Ungeregelte geteilte Verantwortung ist einer.
Aufschlussreich ist auch der IBM-Befund zur Berichtslinie: Mehr als die Hälfte der befragten CAIOs berichtet direkt an CEO oder Board. Wo das fehlt, hängt die Rolle unterhalb des CIO und verhandelt Budgets, die andere freigeben. Sie wird dann zum Übersetzer fremder Entscheidungen.
Ein CAIO ohne Budget und Stopprecht ist eine Pressemitteilung, keine Führungsrolle.
Die redaktionelle Folgerung: Erst die Rechte schneiden, dann über Titel reden. Wer die Reihenfolge umdreht, bekommt Symbolpolitik mit Gehaltsband.
Sechs Entscheidungstypen erzeugen in der Praxis fast alle Konflikte. Für jeden gehört festgelegt: Wer entscheidet, wer wird angehört, was gilt bei Streit, in welcher Frist.
| Entscheidung | Entscheidet | Wird angehört | Eskalation bei Streit |
|---|---|---|---|
| Ziele, Risikotoleranz, Portfolio-Kapazität | Geschäftsführung | CIO, Fachleitungen | Beirat oder Gesellschafter |
| Budget oberhalb der Schwelle | Geschäftsführung | CIO, KI-Leitung | Beirat |
| Budget unterhalb der Schwelle, Tool-Beschaffung | KI-Leitung mit Einkauf | Fachbereich, CIO | GF binnen zehn Arbeitstagen |
| Architektur, Integration, Security-Baseline | CIO | KI-Leitung, Informationssicherheit | GF binnen zehn Arbeitstagen |
| Datenfreigabe für Training und Betrieb | CDO, sonst Datenschutz plus Fachbereich | KI-Leitung | GF binnen zehn Arbeitstagen |
| Produktivsetzung eines Systems | KI-Leitung | Fachleitung, Datenschutz, Betriebsrat | GF binnen fünf Arbeitstagen |
| Stopp eines produktiven Systems | KI-Leitung sofort wirksam | Fachleitung | GF bestätigt binnen 48 Stunden |
| Vendor-Auswahl und Vertragsverlängerung | Einkauf mit CIO-Freigabe | KI-Leitung, Datenschutz | GF binnen zehn Arbeitstagen |
Drei Details entscheiden über die Wirksamkeit. Erstens die Fristen: Ein Anhörungsrecht ohne Frist ist ein Vetorecht. Zweitens das Stopprecht: Es muss sofort wirksam sein und darf nicht an einer Gremiensitzung hängen. Die nachträgliche Bestätigung durch die Geschäftsführung schützt vor Missbrauch. Drittens die Beschaffungsgrenze: Ohne die Regel, dass KI-Verträge ohne Review ungültig sind, wächst neben der Matrix ein Schattenportfolio.
Bewusst fehlt in der Matrix ein KI-Gremium als Entscheider. Gremien hören an, bündeln und bereiten vor. Entscheiden müssen benannte Personen. Sobald ein Ausschuss formal entscheidet, ist im Vorfall niemand verantwortlich gewesen.
Zwei Besonderheiten des Mittelstands verdienen eigene Zeilen in der Matrix. Erstens die Gesellschafterebene: In Familienunternehmen entscheidet bei Grundsatzfragen oft der Beirat oder der Gesellschafterkreis mit. Diese Schwelle gehört ausdrücklich benannt, etwa ab einem Investitionsvolumen oder bei Eingriffen ins Geschäftsmodell. Sonst wird jede größere KI-Entscheidung informell auf der Familienebene nachverhandelt. Zweitens die Mitbestimmung: Der Betriebsrat ist bei Systemen mit Bezug zu Verhalten oder Leistung der Beschäftigten früh einzubinden. Artikel 26 Absatz 7 der KI-Verordnung verlangt bei Hochrisiko-Systemen ohnehin die Information der Beschäftigtenvertretung vor der Inbetriebnahme. Wer diese Anhörung als Frist in die Matrix schreibt, verwandelt einen gefürchteten Blocker in einen planbaren Schritt.
Ob die Matrix trägt, zeigt sich in Konflikten, nicht in Workshops. Drei Fälle decken die typischen Bruchstellen ab.
Fall eins: Die Vertriebsleitung will ein KI-Tool für Angebotstexte beschaffen, Jahreskosten unterhalb jeder Investitionsschwelle. Ohne Matrix läuft der Vertrag über eine Firmenkreditkarte, mit Kundendaten in einem Dienst außerhalb der EU. Mit Matrix greift die Beschaffungsregel: Der Vertrag ist ohne Review der KI-Leitung ungültig, das Review dauert maximal zehn Arbeitstage. Der Fachbereich verliert zwei Wochen und gewinnt einen Datenverarbeitungsvertrag.
Fall zwei: Ein Pilot zur Rechnungsprüfung verfehlt die vereinbarte Genauigkeitsschwelle im zweiten Monat. Die Projektleitung will verlängern, die Fachleitung auch, es ist schließlich ihr Vorhaben. Mit Matrix liegt die Entscheidung bei der KI-Leitung, gegen deren Votum nur die Geschäftsführung verlängern kann. Der Pilot stirbt oder bekommt einen dokumentierten GF-Beschluss mit neuer Frist. Beides ist Steuerung.
Fall drei: Der Datenschutzbeauftragte meldet Bedenken gegen ein produktives System im Personalbereich. Ohne Regel entsteht ein monatelanges Patt zwischen Rechtsmeinung und Betriebsinteresse. Mit Matrix stoppt die KI-Leitung sofort oder legt den Fall binnen fünf Arbeitstagen der Geschäftsführung vor. Die Abwägung wird protokolliert. Genau dieses Protokoll ist später der Nachweis geordneter Aufsicht.
Entscheidungsrechte, die noch nie gegen einen Fachbereich durchgesetzt wurden, existieren nur auf dem Papier. Der erste verlorene Machtkampf ist der eigentliche Go-live der Governance.
Für die dedizierte Rolle spricht Evidenz, aber sie ist bedingt. IBM misst bei Unternehmen mit CAIO rund zehn Prozent höheren Return on Investment auf KI-Ausgaben; mit zentralem oder Hub-and-Spoke-Betriebsmodell steigt der gemessene Vorsprung deutlich. Das sind Korrelationen aus einer Befragung von über 600 Verantwortlichen, kein Kausalbeweis. Reife Organisationen leisten sich eher beides: die Rolle und die Disziplin.
Drei Kriterien taugen als Schwelle für den Mittelstand. Erstens Portfoliogröße: mehrere produktive Systeme in verschiedenen Bereichen, die um Kapazität konkurrieren. Zweitens Risikoprofil: mindestens ein Vorhaben, das als Hochrisiko-System unter Anhang III der KI-Verordnung fallen könnte. Drittens Geschäftsmodellnähe: KI verändert Produkte oder Preislogik, nicht nur interne Abläufe. Treffen zwei der drei Kriterien zu, lohnt die dedizierte Rolle mit direkter Berichtslinie zur Geschäftsführung.
Darunter ist das Zusatzmandat die ehrlichere Lösung: CIO oder eine erfahrene Bereichsleitung übernimmt die KI-Leitung mit ausgewiesenem Zeitbudget, die Matrix regelt die Rechte. Wichtig ist die Kapazitätswahrheit. Ein Mandat ohne freigeräumte Zeit ist eine Verschiebung des Problems in den Kalender einer ohnehin ausgelasteten Führungskraft.
Und die Gegenposition? Manche Häuser berufen bewusst keinen Verantwortlichen und setzen auf verteilte Initiative der Fachbereiche. Das funktioniert in der Experimentierphase und scheitert regelmäßig am Übergang in den Betrieb: Niemand führt Inventar, niemand vergleicht Verträge, niemand stoppt. Verteilte Initiative ist ein Startmodell, kein Betriebsmodell.
Bis Tag 30
Bis Tag 60
Bis Tag 90
Für die meisten Mittelständler reicht der CIO mit einem schriftlichen KI-Mandat. Ein eigener CAIO lohnt erst, wenn das Portfolio mehrere produktive Systeme umfasst, Hochrisiko-Anwendungen dazukommen oder KI das Geschäftsmodell selbst verändert. Weltweit haben laut IBM 2025 rund 26 Prozent der Unternehmen einen CAIO, in Deutschland 25 Prozent. Aussagekräftiger als die Quote ist der Zuschnitt: Mehr als die Hälfte der befragten CAIOs berichtet direkt an CEO oder Board. Ein CAIO ohne Budget, Team und Stopprecht verbessert nichts. Er verdoppelt nur die Zahl der Meetings.
Eine dedizierte C-Rolle kostet eine volle Führungsvergütung, Suchkosten und meist ein kleines Team, das Zusatzmandat kostet Kapazität einer vorhandenen Führungskraft. Belastbare Gehaltsbenchmarks für den DACH-Mittelstand fehlen; öffentliche Zahlen stammen fast immer aus US-Konzernen. Entscheidend ist die Gegenrechnung: IBM misst bei Unternehmen mit CAIO rund zehn Prozent höheren Return on Investment auf KI-Ausgaben, eine Korrelation, kein Kausalbeweis. Für viele Häuser ist das Zusatzmandat mit klarer Rechte-Matrix der wirtschaftlichere Einstieg. Es muss aber mit Zeitbudget hinterlegt sein, sonst ist es nur ein zweiter Titel.
Zunächst haftet das Unternehmen, nicht die Person mit dem KI-Titel. Die Verordnung (EU) 2024/1689 knüpft Pflichten an Rollen wie Anbieter und Betreiber; Verstöße kosten nach Artikel 99 bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes. Daneben steht die allgemeine Organisationsverantwortung der Geschäftsleitung: Sie muss nachweisen können, dass Zuständigkeiten, Aufsicht und Kontrollen geregelt waren. Interne Titel entlasten dabei nicht. Eine dokumentierte Rechte-Matrix mit Freigaben und Protokollen ist im Schadensfall das wichtigste Verteidigungsmittel der Führung.
Klein anfangen: eine Seite, sechs Entscheidungen, drei Wochen. Die Matrix regelt zunächst nur Budgetfreigabe, Architektur, Datenfreigabe, Produktivsetzung, Stopp und Vendor-Auswahl, jeweils mit Entscheider, Anzuhörenden und Eskalationsfrist. Dann wird sie an zwei realen Fällen getestet, etwa einer strittigen Tool-Beschaffung und einem Pilot an der Qualitätsschwelle. Erst nach diesem Test wird sie versioniert und kommuniziert. Was sich nicht in zwei echten Konflikten bewährt hat, gehört nicht in die Fläche. Ein Gremium braucht es dafür nicht, nur einen GF-Beschluss.
Eine Konfliktregel mit Frist einziehen und den Streit zur Sachentscheidung der Geschäftsführung machen. Bewährt hat sich eine feste Eskalation: Wenn Daten- und Integrationsfragen ein Vorhaben länger als zehn Arbeitstage aufhalten, entscheidet die Geschäftsführung auf Basis einer gemeinsamen Einseiter-Vorlage beider Seiten. Laut McKinsey 2025 teilen sich im Schnitt zwei Führungskräfte die KI-Governance; das Patt ist also der Normalfall, nicht die Ausnahme. Blockieren sich beide Rollen dauerhaft, sind die Mandate falsch geschnitten. Dann muss die Matrix geändert werden, nicht die Personen.
Methodik: Alle Zahlenangaben wurden im Juli 2026 per Web-Recherche gegen die genannten Quellen geprüft; abweichende Studiendefinitionen sind im Text ausgewiesen. Die Erstfassung entstand mit KI-Unterstützung; Recherche, Auswahl und Wertungen verantwortet die Redaktion. Nicht verifizierbare Zahlen wurden gestrichen und durch qualitative Aussagen ersetzt.
| Datum | Änderung |
|---|---|
| 2026-07-23 | Vollständige Neufassung: Web-Recherche, Rechte-Matrix, Konfliktfälle, FAQ, Maßnahmenblock (Status: draft) |
| 2026-07-23 | Erstfassung Launch-Korpus (Status: draft) |
Ein Briefing pro Woche: Entscheidungsfragen, eingeordnete Zahlen und Fristen. Ihre Adresse geben wir nicht weiter.
12 Min. Lesezeit
Jetzt lesen