Glossar: Betrieb

Die meisten KI-Vorhaben scheitern nicht am Modell, sondern am Übergang in den Betrieb. Dieses Themenfeld erklärt die Begriffe, mit denen Sie den Weg vom Pilot in den verantworteten Dauerbetrieb steuern. Wer diese Begriffe kennt, erkennt in Anbieterpräsentationen schneller, was fehlt.

Pilot vs. Produktivbetrieb

Definition: Ein Pilot ist ein zeitlich befristeter Testlauf unter kontrollierten Bedingungen, während der Produktivbetrieb den Dauereinsatz mit echten Nutzern, echten Daten und voller Verantwortung für Fehler bezeichnet.

Führungsrelevanz: Zwischen beiden liegt der teuerste Schritt des gesamten Vorhabens. Erst im Produktivbetrieb entstehen Kosten für Support, Monitoring, Schulung und Haftung. Wer nur den Pilot budgetiert, unterschreibt faktisch ein offenes Budget. Die Freigabe in den Produktivbetrieb gehört deshalb auf Geschäftsführungsebene.

Typisches Missverständnis: „Der Pilot läuft, also sind wir fast fertig.“ Tatsächlich beginnt mit der Produktivsetzung der größte Teil der Arbeit und der Kosten.

Siehe auch: „KI-Systeme vom Pilot in den verantworteten Betrieb“, „Pilot fortführen, neu aufsetzen oder stoppen“

Proof of Concept (PoC)

Definition: Ein Proof of Concept ist ein bewusst begrenzter Machbarkeitsnachweis, der eine einzige Frage beantwortet: Funktioniert der Ansatz mit unseren Daten grundsätzlich?

Führungsrelevanz: Ein PoC ist ein Erkenntniskauf, kein Produktkauf. Er braucht ein festes Budget, eine feste Laufzeit und ein vorab definiertes Erfolgskriterium. Ohne diese drei Elemente wird aus dem PoC ein Dauerprojekt ohne Entscheidung. Verhandeln Sie mit Anbietern deshalb PoC-Ende und Bewertungstermin schon im Vertrag.

Typisches Missverständnis: Ein gelungener PoC gilt oft als Beweis für Wirtschaftlichkeit. Er beweist nur technische Machbarkeit, nicht Nutzen, nicht Skalierbarkeit und nicht Betriebskosten.

Siehe auch: „Pilot fortführen, neu aufsetzen oder stoppen“, Abbruchkriterium (Themenfeld Wirtschaftlichkeit)

MLOps und LLMOps

Definition: MLOps und LLMOps bezeichnen die Praktiken und Werkzeuge, mit denen KI-Modelle und Sprachmodell-Anwendungen kontrolliert entwickelt, ausgerollt, überwacht und aktualisiert werden.

Führungsrelevanz: Diese Disziplin entscheidet, ob Ihr KI-System nach zwölf Monaten noch funktioniert oder still verfällt. Fehlt sie, hängt der Betrieb an einzelnen Personen und undokumentierten Handgriffen. Für die Führung heißt das: MLOps-Kapazität ist ein Kostenblock im Business-Case, kein optionales Extra. Fragen Sie Anbieter konkret, wer Modell-Updates testet und freigibt.

Typisches Missverständnis: „Das macht die IT nebenbei mit.“ Der Betrieb von KI-Systemen unterscheidet sich deutlich vom Betrieb klassischer Software, weil sich Modelle und Daten laufend ändern.

Siehe auch: „KI-Servicebetrieb: SLA, Evaluation, Incident Response“, Monitoring

Evaluation

Definition: Evaluation ist die systematische, wiederholbare Messung der Ausgabequalität eines KI-Systems anhand definierter Testfälle und Bewertungskriterien.

Führungsrelevanz: Ohne Evaluation entscheiden Anekdoten über Millionenbudgets. Ein fester Testsatz mit Zielwerten macht Qualität verhandelbar: im Anbietervertrag, bei der Abnahme und bei jedem Modellwechsel. Wer keine Evaluationsergebnisse vorlegen kann, kann auch keine Abnahme verweigern. Verlangen Sie Evaluationsberichte als Liefergegenstand.

Typisches Missverständnis: „Wir haben es ausprobiert, die Antworten waren gut.“ Stichproben durch das Projektteam sind keine Evaluation, sondern ein Wohlfühltest ohne Beweiskraft.

Siehe auch: „KI-Servicebetrieb: SLA, Evaluation, Incident Response“, Monitoring

Monitoring

Definition: Monitoring ist die laufende Beobachtung eines produktiven KI-Systems auf Qualität, Kosten, Latenz und auffälliges Verhalten anhand definierter Kennzahlen.

Führungsrelevanz: Klassische IT überwacht, ob ein System läuft. Bei KI müssen Sie zusätzlich überwachen, ob es noch richtig arbeitet. Ein Chatbot kann monatelang technisch verfügbar sein und trotzdem falsche Auskünfte geben. Ohne Monitoring erfahren Sie das vom Kunden oder von der Aufsicht. Budgetieren Sie Monitoring als Dauerkosten über die gesamte Laufzeit.

Typisches Missverständnis: Verfügbarkeits-Monitoring wird mit Qualitäts-Monitoring verwechselt. Ein grünes Dashboard sagt nichts darüber, ob die Antworten des Systems noch stimmen.

Siehe auch: „KI-Servicebetrieb: SLA, Evaluation, Incident Response“, Drift-Erkennung

Drift-Erkennung

Definition: Drift-Erkennung ist das systematische Aufspüren schleichender Veränderungen in Eingangsdaten oder Modellverhalten, die die Qualität eines KI-Systems unbemerkt verschlechtern.

Führungsrelevanz: Drift ist der Grund, warum ein bei Abnahme einwandfreies System zwei Jahre später Schaden anrichten kann. Neue Produkte, geänderte Prozesse oder ein stilles Modell-Update des Anbieters verschieben die Datenlage. Für die Führung zählt: Wer prüft wie oft, und ab welcher Abweichung wird eskaliert? Diese Frage gehört in jeden Betriebsvertrag.

Typisches Missverständnis: „Einmal abgenommen, immer korrekt.“ KI-Systeme altern mit ihren Daten, auch wenn am Code nichts geändert wurde.

Siehe auch: „Wann ein KI-System abgeschaltet oder ein Anbieter gewechselt werden muss“, Monitoring

SLA für KI-Services

Definition: Ein Service Level Agreement für KI-Services legt vertraglich messbare Zusagen zu Verfügbarkeit, Antwortzeit, Ausgabequalität und Reaktionszeiten bei Störungen fest.

Führungsrelevanz: Standard-SLAs aus dem Software-Einkauf decken KI-spezifische Risiken nicht ab. Sie regeln Verfügbarkeit, aber nicht Qualitätsverfall, Modellabkündigung oder stille Modelländerungen. Wer hier nicht nachverhandelt, trägt das Qualitätsrisiko allein und zahlt trotzdem die volle Servicegebühr. Lassen Sie Qualitätskennzahlen und Änderungsankündigungen explizit ins SLA schreiben.

Typisches Missverständnis: „99,9 Prozent Verfügbarkeit reicht als Zusage.“ Ein KI-Service kann hochverfügbar falsche Ergebnisse liefern; Verfügbarkeit ohne Qualitätszusage ist ein halbes SLA.

Siehe auch: „KI-Servicebetrieb: SLA, Evaluation, Incident Response“, Modellwechsel

Incident Response für KI

Definition: Incident Response für KI ist der vorbereitete Ablauf, mit dem ein Unternehmen auf Fehlverhalten, Sicherheitsvorfälle oder Qualitätseinbrüche eines KI-Systems reagiert.

Führungsrelevanz: Bei KI-Vorfällen zählt die erste Stunde: Wer darf das System abschalten, wer informiert Kunden, wer dokumentiert für Aufsicht und Versicherung? Ohne definierten Ablauf improvisiert im Ernstfall die Fachabteilung, und aus einem Vorfall wird ein Reputationsschaden. Die Abschaltbefugnis muss vor dem ersten Produktivtag geklärt und schriftlich zugewiesen sein.

Typisches Missverständnis: „Unser IT-Notfallplan deckt das ab.“ Klassische Notfallpläne kennen Serverausfälle, aber keine halluzinierenden Systeme, die technisch einwandfrei laufen.

Siehe auch: „KI-Servicebetrieb: SLA, Evaluation, Incident Response“, Audit-Log (Themenfeld Sicherheit)

Human in the Loop

Definition: Human in the Loop bezeichnet ein Betriebsmuster, bei dem ein Mensch Ergebnisse eines KI-Systems prüft oder freigibt, bevor sie wirksam werden.

Führungsrelevanz: Die menschliche Prüfschleife ist Risikokontrolle und Kostenfaktor zugleich. Sie senkt Fehler- und Haftungsrisiken, bindet aber dauerhaft Personal und begrenzt den Effizienzgewinn. Die Führungsentscheidung lautet: Bei welchen Vorgängen ist Prüfung Pflicht, und ab wann darf das System allein entscheiden? Diese Abstufung gehört dokumentiert, nicht dem Zufall überlassen.

Typisches Missverständnis: Eine Prüfschleife gilt als Garantie gegen Fehler. Wer täglich hunderte KI-Vorschläge abnicken muss, prüft nach kurzer Zeit nicht mehr wirklich. Das Muster heißt Automatisierungs-Komplazenz.

Siehe auch: „KI-Systeme vom Pilot in den verantworteten Betrieb“, Adoption (Themenfeld Organisation und Arbeit)

Hypercare

Definition: Hypercare ist die intensiv betreute Anlaufphase direkt nach der Produktivsetzung, in der erhöhte Support-Kapazität, engmaschiges Monitoring und schnelle Korrekturen bereitstehen.

Führungsrelevanz: Die ersten Wochen nach dem Go-live entscheiden über Akzeptanz und Ruf des Systems im Haus. Frühe Fehler ohne schnelle Reaktion erzeugen dauerhafte Ablehnung in der Belegschaft. Hypercare kostet Geld und gehört als eigene Position in Angebot und Budget. Klären Sie vor Go-live, wie lange die Phase dauert und was danach gilt.

Typisches Missverständnis: Hypercare wird als Anbieter-Kulanz erwartet. Ohne vertragliche Vereinbarung endet die Betreuung, wenn der Projektleiter des Anbieters zum nächsten Kunden wechselt.

Siehe auch: „KI-Systeme vom Pilot in den verantworteten Betrieb“, SLA für KI-Services

Modellwechsel

Definition: Ein Modellwechsel ist der geplante oder erzwungene Austausch des KI-Modells hinter einer Anwendung, etwa wegen Abkündigung, besserer Alternativen oder Kostendruck.

Führungsrelevanz: Modellgenerationen werden von Anbietern teils nach wenigen Monaten abgekündigt. Jeder Wechsel erfordert erneute Evaluation, angepasste Prompts und oft neue Freigaben. Wer den Wechselaufwand nicht einplant, erlebt ihn als ungeplantes Projekt mit ungeplanten Kosten. Verhandeln Sie Ankündigungsfristen für Modellabkündigungen und testen Sie den Wechselpfad, bevor Sie ihn brauchen.

Typisches Missverständnis: „Neueres Modell heißt bessere Ergebnisse.“ Ein neues Modell kann in Ihrem konkreten Anwendungsfall schlechter abschneiden; ohne eigene Evaluation ist der Wechsel ein Blindflug.

Siehe auch: „Wann ein KI-System abgeschaltet oder ein Anbieter gewechselt werden muss“, Evaluation

Post-Market-Monitoring

Definition: Post-Market-Monitoring ist die nach Artikel 72 der KI-Verordnung geforderte, systematische Beobachtung eines Hochrisiko-KI-Systems nach Inverkehrbringen, um Risiken und Fehlentwicklungen im realen Einsatz zu erkennen.

Führungsrelevanz: Die Pflicht trifft primär Anbieter, aber Betreiber müssen Vorfälle melden und den Betrieb dokumentieren. Nach dem Digital Omnibus gelten die Hochrisiko-Pflichten für Anhang-III-Systeme ab dem 2. Dezember 2027, für Anhang-I-Produkte ab dem 2. August 2028. Wer heute Systeme einführt, sollte die Beobachtungsprozesse jetzt mitplanen, statt später nachzurüsten. Das ist eine Orientierung, keine Rechtsberatung.

Typisches Missverständnis: „Das betrifft nur die Anbieter.“ Als Betreiber liefern Sie die Betriebsdaten zu, und ohne eigene Aufzeichnungen können Sie Ihre Mitwirkungspflichten nicht erfüllen.

Siehe auch: „EU AI Act für Betreiber: Pflichten nach Rolle, Risikoklasse und Datum“, Monitoring

Schatten-KI

Definition: Schatten-KI bezeichnet KI-Werkzeuge, die Beschäftigte ohne Wissen, Freigabe oder Kontrolle der IT- und Compliance-Verantwortlichen im Arbeitsalltag nutzen.

Führungsrelevanz: Schatten-KI existiert in praktisch jedem Unternehmen, das sie nicht aktiv adressiert. Das Risiko liegt weniger im Werkzeug als im Datenfluss: Vertrags- und Kundendaten landen in privaten Konten ohne Auftragsverarbeitungsvertrag. Ein reines Verbot verschiebt die Nutzung nur tiefer in den Schatten. Wirksamer ist ein freigegebenes Angebot plus klare Regeln, was wohin darf.

Typisches Missverständnis: „Bei uns ist das verboten, also passiert es nicht.“ Verbote ohne Alternative erzeugen keine Compliance, sondern Unsichtbarkeit.

Siehe auch: „Vom KI-Inventar zum Kontrollsystem“, BYOAI (Themenfeld Organisation und Arbeit)

Das Entscheider-Briefing

Ein Briefing pro Woche: Entscheidungsfragen, eingeordnete Zahlen und Fristen. Ihre Adresse geben wir nicht weiter.

Website

E-Mail-Adresse

Briefing abonnieren

Ich möchte das Briefing per E-Mail erhalten und kann die Einwilligung jederzeit widerrufen. Die Datenschutzerklärung habe ich gelesen.

Sie erhalten zuerst eine E-Mail mit einem Bestätigungslink. Erst nach dem Klick nehmen wir Sie auf. Abmeldung mit einem Klick in jeder Ausgabe.