Herr Werner, seit Jahren gilt KI als Produktivitätssprung. Warum bleibt sie in vielen Unternehmen trotzdem im Pilotstatus?
Weil genau dort der Engpass liegt. KI ist im Mittelstand angekommen – aber häufig noch nicht in der Wertschöpfung. Wir sollten aufhören, die Zahl der KI-Projekte mit Fortschritt zu verwechseln. Wenn ich mit Geschäftsführern spreche, höre ich immer wieder denselben Satz: ‚Wir testen viel, wir sehen aber wenig messbaren Effekt.‘ Das ist selten ein reines Technikproblem. Es ist ein Skalierungsproblem. Viele Piloten wurden gestartet, weil man eben auch etwas mit KI machen wollte. Aber wer einen Use Case zu klein denkt, kommt nie in den Bereich, in dem sich der Aufwand rechnet. Die spannende Frage für 2026 lautet deshalb nicht mehr: ‚Machen wir etwas mit KI?‘ Sondern: ‚Welcher Pilot verdient den Sprung in den Regelbetrieb – und wie stellen wir ihn wirtschaftlich, technisch und organisatorisch belastbar auf?‘
Was unterscheidet Unternehmen, die den Sprung in den Regelbetrieb schaffen, von denen, die im Experiment stecken bleiben?
Wir haben uns das im Rahmen einer eigenen Langzeitstudie angesehen – mit mehr als 250 Tiefeninterviews im Mittelstand und einer aktuellen quantitativen Erhebung unter Entscheidern mit KI-Budgetverantwortung. Drei Faktoren stechen dabei heraus. Erstens: der Anwendungsfall selbst – ist er wirtschaftlich groß genug gedacht? Zweitens: die Datenqualität – sind die Informationen verfügbar, strukturiert und zugänglich, die das System braucht? Und drittens: Governance – also klare Regeln, wer entscheidet, was das System darf, und wer die Ergebnisse kontrolliert.
Die Studie zeigt noch etwas Entscheidendes: Der Reifegrad eines Unternehmens – ich nenne es lieber Zukunftsfähigkeit – erklärt mehr als ein Drittel des KI-Investitionsertrags. Nicht die Höhe des Budgets. Nicht das gewählte Modell. Sondern wie gut Prozesse, Daten und Entscheidungsstrukturen zusammenspielen. Unternehmen mit hohem digitalen und KI-bezogenen Reifegrad halten ihre KI-Projekte zudem häufiger über eine längere Zeit produktiv. Das ist kein marginaler Vorteil, sondern ein struktureller Wettbewerbsvorsprung.
Wie findet ein Unternehmen heraus, wo es bei dieser Zukunftsfähigkeit tatsächlich steht – und was kommt dann?
Ich empfehle eine strukturierte Standortbestimmung – nicht als Selbstbeschreibung, sondern mit einem Blick von außen. Ein gutes Zukunftsfähigkeitsmodell prüft mehrere Felder parallel: Strategie, Führung, Prozesse, Daten, Technologie, Kompetenzen. Die entscheidende Frage dabei ist nicht ‚Wo stehen wir auf einer Skala?‘, sondern: ‚Welche Lücke verhindert den nächsten Schritt?‘
Wie lautet die Antwort?
Bei vielen Unternehmen ist es die Datenqualität. Bei anderen fehlt ein klarer Weg vom Piloten in den Regelbetrieb, weil fünf oder sechs Datenquellen im Tagesgeschäft nicht automatisiert zusammengeführt werden können, was in der Testumgebung noch kein Problem war. Wieder andere haben beides, aber keine Zuständigkeiten. Die Lücke bestimmt den Hebel. Das heißt auch: nicht auf allen Feldern gleichzeitig arbeiten, sondern dort ansetzen, wo es gerade hakt.
Sie waren lange CFO. Ab wann ist KI aus Ihrer Sicht nicht mehr Technologieprojekt, sondern eine Investition, die sich rechnen muss?
Ob CFO oder CEO – mich interessiert bei einer Investition immer zuerst, was am Ende wirtschaftlich dabei herauskommt. Bei KI ist das nicht anders. Und das lässt sich durchaus konkret beziffern. Nehmen wir einen Bereich, der in fast jedem Unternehmen relevant ist: den Kundenservice. Ein manuell bearbeiteter Service-Kontakt kostet laut einer US-Untersuchung im Durchschnitt rund sieben Dollar. Ein KI-Agent, der dieselbe Anfrage bearbeitet, kommt auf etwa 60 Cent. Das entspricht einer Reduktion von rund 90 Prozent. Aber – und das ist entscheidend – dieser Effekt entsteht nur, wenn die Lösung wirklich in den Regelbetrieb überführt wird. Solange der KI-Agent als Pilotprojekt neben dem bestehenden Prozess läuft, entstehen doppelte Strukturen – und damit zusätzliche Kosten statt Ersparnis.
Haben Sie noch ein konkretes Beispiel?
Ein Beispiel aus unserer Studie ist MIWE, ein Hersteller von Bäckereibacköfen. Dort leiten zwei digitale Assistenten täglich mehr als 1.000 Handlungsempfehlungen aus SAP-Datensätzen ab. Nach Angaben des Unternehmens entstehen dadurch Produktivitätsgewinne von 20 bis 25 Prozent in der Fertigung und zehn bis 20 Prozent im Materialmanagement. Das ist kein Show Case, das ist betriebliche Realität – möglich, weil der Schritt vom Piloten in die Breite bewusst gegangen wurde.
Die Lücke zwischen Digitalisierungsfortschritt und KI-Umsetzung ist im Mittelstand auffällig: 70 Prozent der Unternehmen erreichen bei der allgemeinen Digitalisierung bereits ein hohes Niveau. Bei KI sind es nur 19 Prozent. Woran liegt diese Differenz?
Diese Zahl zeigt vor allem eines: Viele Unternehmen haben bei der Digitalisierung wichtige Grundlagen geschaffen – Cloud-Infrastruktur, digitale Workflows, ERP-Systeme. KI verlangt aber eine andere Qualität der Vorbereitung. Es reicht nicht, Daten irgendwo abzulegen. Sie müssen strukturiert, zugänglich und aktuell sein. Und es muss klar sein, welche Daten ein KI-System überhaupt nutzen darf.
Ich erlebe das in Kundengesprächen immer wieder: Die IT sagt, die Daten seien verfügbar. Die operativen Teams berichten von Nacharbeit, doppelter Datenpflege und händischen Korrekturen. Wer in dieser Situation eine KI-Strategie aufsetzt, baut auf einem Fundament, das beim ersten Belastungstest versagt. Deshalb sage ich: Datenstrategie kommt vor Plattformwahl. Wer diese Reihenfolge umdreht, zahlt später doppelt.
Beim Stichwort Kosten: Viele Entscheider fragen derzeit nicht nur, was KI leisten kann, sondern was sie tatsächlich kostet. Wie beantworten Sie diese Frage?
Das ist die richtige Frage, und sie wird viel zu selten ehrlich beantwortet. Die reinen Betriebskosten – also Token-Kosten für die Nutzung von Sprachmodellen – sind in den meisten produktiven Anwendungen heute überraschend gering. Tausend Mitarbeitende auf einer ChatGPT-artigen Anwendung erzeugen vielleicht 250 bis 500 Euro Kosten im Monat.
Wo ist der Haken?
Relevanter sind zwei andere Kostenblöcke: Erstens: Integration. Daten anbinden, Schnittstellen schaffen, Prozesse anpassen – dort liegt ein großer Teil der Investition, nicht im Modell selbst. Zweitens: agentische Systeme ohne klare Leitplanken. Ein Agent, der eigenständig Entscheidungen vorbereitet und Aktionen auslöst, kann ohne Budgetgrenzen fünfstellige Beträge pro Monat verursachen. Wer keine Worst-Case-Rechnung pro Use Case macht, plant am Wertbeitrag vorbei.
Mein Rat lautet dennoch: Fragen Sie nicht nur ‚Was kostet die KI?‘, fragen sie auch ‚Was bringt sie – und wann amortisiert sich die Investition?‘ Bei einem Assistenten für Unternehmenssprache etwa, der zum Beispiel Ausschreibungen, Projektunterlagen oder Social-Media-Beiträge formuliert, liegt der Break-even oft bei 60 bis 70 Nutzungen.
KI-Agenten sollen nicht nur antworten, sondern handeln. Ist der Mittelstand organisatorisch schon so weit – oder läuft die Technik der Unternehmenspraxis voraus?
Die Technologie ist es zumindest. Der Prozess vom Auftrag bis zur Zahlung lässt sich heute durchgängig automatisieren. Einer der Vorreiter unserer Studie, der Versicherungsdienstleister Domcura, hat seine interne KI-Lösung für Schadenbearbeitung inzwischen als Service für Dritte aufgebaut – mit dem Menschen in der Prüfschleife. Das ist keine Zukunftsmusik, das ist Gegenwart.
Was fehlt noch, damit das in der Breite ankommt?
Die Unternehmen müssen organisatorisch bereit sein. Ein Agent braucht mehr als ein Sprachmodell. Er braucht eine eigene Identität, Rollen, Berechtigungen, Budgetgrenzen und einen geregelten Lebenszyklus. Und bei dem Punkt bin ich sehr klar: Verantwortung kann ich nicht an KI delegieren. Als Geschäftsführer muss ich jederzeit wissen, wer für welche Entscheidungen steht – unabhängig davon, ob ein Mensch oder ein KI-System sie vorbereitet hat. Je selbstständiger die Systeme werden, desto wichtiger sind klare Ziele, Regeln für die Datennutzung und die Entscheidung, wo der Mensch die Kontrolle behält.
Die erfolgreichsten Projekte werden nicht die spektakulärsten sein. Es werden die Anwendungen sein, die einen konkreten Ablauf schneller, besser oder sicherer machen. Ein Mittelständler sollte am Ende nicht sagen: ‚Wir haben jetzt auch einen KI-Agenten.‘ Er sollte sagen können: ‚In diesem Prozess sind wir messbar besser geworden.‘
Sie sprachen vorhin von Governance: Welche Rolle spielt diese – auch mit Blick auf den EU AI Act?
Eine zentrale Rolle – nicht als Bremse, sondern als Voraussetzung für Skalierung. Gute Governance beschleunigt, weil sie Entscheidungsspielräume definiert. Wenn ein Unternehmen weiß, welche Daten ein Agent sehen darf, welche Aktionen er auslösen kann und wann ein Mensch übernimmt, kann es mutiger automatisieren.
Eine internationale US-Studie zeigt zudem: Unternehmen mit nachweislich vertrauenswürdiger KI-Governance haben eine fünfzehnmal höhere Wahrscheinlichkeit, einen starken Return on Investment zu erzielen. Das erklärt auch, warum viele KI-Systeme im Alltag ignoriert werden: Wenn Mitarbeitende nicht nachvollziehen können, wie eine Empfehlung zustande kam, überstimmen sie das System. Wer in Erklärbarkeit und Governance investiert, reduziert also nicht nur Compliance-Risiken. Er schützt die Investition davor, im Alltag wirkungslos zu bleiben.
Wie groß ist die Bereitschaft, darin zu investieren?
Wir sehen im Mittelstand eine spürbare Bereitschaft in vertrauenswürdige KI zu investieren. Eine große Mehrheit der Unternehmen wäre bereit, für eine Lösung auf deutscher Infrastruktur mit nachgewiesener Einhaltung von DSGVO und europäischem KI-Gesetz einen Aufpreis zu zahlen. Das zeigt: Regulierung wird nicht nur als Last gesehen, sondern auch als Qualitätsversprechen. Die Grundidee des AI Act – Anwendungen zu begrenzen, die Menschen schaden können – halte ich für richtig. Wenn die Umsetzung pragmatisch bleibt und nicht in übermäßiger Bürokratie endet, kann das ein Standortvorteil für Europa sein.
Aber Lernen und Regeln müssen parallel wachsen. Wer erst ein umfassendes Regelwerk aufbaut und dann mit der Nutzung beginnt, verliert Zeit. Die Vorreiter machen beides gleichzeitig: Sie sammeln praktische Erfahrung und entwickeln daraus ihr Governance-Framework.
Wenn Sie das auf eine Priorität herunterbrechen: Was müssen Verantwortliche jetzt tun, damit KI nicht im Pilotstatus stecken bleibt, sondern Wertschöpfung liefert?
Erstens: ehrlich sein. Sind wir wirklich KI-bereit – oder erzählen wir uns das nur? Fachbereiche und IT haben oft ein unterschiedliches Bild vom tatsächlichen Stand der Datenqualität. Diese Diskrepanz aufzulösen, ist Führungsaufgabe.
Zweitens: Prioritäten setzen. Nicht jeder Pilot verdient es, skaliert zu werden. Konzentrieren Sie sich auf die Use Cases, die groß genug sind und einen messbaren Wertbeitrag versprechen – Durchlaufzeit, Qualität, Kosten, Kundenerlebnis.
Drittens: Verantwortung nicht delegieren. KI entfaltet ihren Wert nicht, wenn wir nur Prozesse automatisieren. Sondern wenn wir Zusammenarbeit neu denken, Führung anpassen und Verantwortung klar verteilen. Das ist keine IT-Entscheidung – das ist eine Führungsentscheidung.
Und viertens: handeln. Wer auf den perfekten Moment wartet, zahlt am Ende doppelt – für den verspäteten Start und für den Vorsprung, den andere aufgebaut haben. Ich bin überzeugt: Die nächste Phase von KI entscheidet sich nicht am einzelnen Modell, sondern im Maschinenraum der Unternehmen, bei Daten, Prozessen, Verantwortung und Skalierung. Genau dort muss Führung jetzt ansetzen.
Zur Person:
Klaus Werner ist seit Oktober 2023 Geschäftsführer Geschäftskunden der Telekom Deutschland GmbH. Er verantwortet das Geschäftskundengeschäft mit einem Umsatz von rund 9,2 Milliarden Euro und etwa 10.500 Mitarbeitenden. Zuvor war der Diplom-Volkswirt mehr als 15 Jahre CFO der Telekom Deutschland und der T-Systems International. Werner gilt als „Wirtschaftsübersetzer", der Technologiethemen konsequent aus der Perspektive wirtschaftlicher Bewertung betrachtet.
Ergänzend:
Mehr zur Investitionslogik und zum messbaren Erfolg von KI im Mittelstand zeigt die Studie „Der ROI-Kompass für KI im Mittelstand“ von der Deutschen Telekom und mind digital. Sie ist hier kostenfrei erhältlich.