Warum 68% der KMUs keine KI-Strategie haben (und wo sie stattdessen anfangen sollten)
Ein ehrlicher Faktencheck zur KI-Strategie Mittelstand
Die Zahl, die alle erschreckt
68% der KMUs haben keine ausgearbeitete KI-Strategie Mittelstand.[¹] Diese Zahl geistert durch Konferenzen, LinkedIn-Posts und Beratungspräsentationen. Sie soll Druck machen. Sie soll Angst erzeugen. Sie soll verkaufen.
Die Sache ist: Diese Zahl zur KI-Strategie Mittelstand ist zwar richtig und gleichzeitig sagt sie nichts über deine tatsächliche Situation aus.
Denn während alle über fehlende KI-Strategien reden, übersehen sie das eigentliche Problem. Ein Problem, das viel grundlegender ist. Ein Problem, das erklärt, warum selbst Unternehmen mit KI-Strategie regelmäßig scheitern.
Lass mich dir zeigen, was die Studien wirklich bedeuten und warum du vielleicht genau richtig liegst, wenn du noch keine KI-Strategie hast.
1. Was die Studien wirklich zeigen
Die KI-Studie 2025 hat 455 Digitalisierungsverantwortliche in deutschen KMUs befragt.[¹] Die Ergebnisse sind aufschlussreich:
86% der KMUs erkennen die Relevanz von KI. Das Bewusstsein ist da. Die Unternehmen schlafen nicht. Sie wissen, dass KI wichtig wird.
Aber nur 32% haben eine ausgearbeitete KI-Strategie. Noch bemerkenswerter: Nur 19% haben einen dedizierten KI-Verantwortlichen oder ein KI-Team etabliert.[¹]
Jetzt wird es interessant. Denn die gleiche Studie zeigt auch:
- 76% der KMUs kämpfen mit unzureichender Datenqualität und Datensilos[¹]
- 83% haben keine umfassende Datenstrategie[¹]
- Nur 23% haben konkrete KI-Projekte erfolgreich umgesetzt[¹]
Siehst du das Muster?
Die Unternehmen, die KI-Strategie Mittelstand–Projekte starten, scheitern nicht an einer fehlender Strategie. Sie scheitern an etwas viel Grundlegenderem: ihren Daten!
2. Das eigentliche Problem: Excel-Wildwuchs und Datensilos
Stell dir folgendes Szenario vor: Du bist Geschäftsführer eines mittelständischen Maschinenbauers mit 120 Mitarbeitern. Du hast gerade eine teure KI-Beratung eingekauft. Die Berater haben dir eine wunderschöne PowerPoint-Präsentation gezeigt mit „KI-gestützter Predictive Maintenance“ und „datengetriebener Produktionsoptimierung“.
Dann gehen sie ans Werk. Und stellen fest:
- Der Vertrieb pflegt Kundendaten in drei verschiedenen Excel-Tabellen
- Die Produktion hat ihre eigene Access-Datenbank aus 2008
- Die Lagerverwaltung nutzt noch ein DOS-basiertes System
- Niemand weiß genau, welche Stammdaten aktuell sind
Das ist keine Übertreibung. Das ist der Alltag in deutschen Mittelstandsunternehmen.
Laut aktuellen Studien enthalten rund 88% aller Excel-Dateien mit mehr als 150 Zeilen mindestens einen kritischen Fehler.[²] In einem Unternehmenskontext bedeutet das: falsche Bestellungen, fehlerhafte Umsatzberichte, doppelte Kundenkommunikation.
Und jetzt soll auf dieser Basis ein KI-System trainiert werden?
Die Bitkom-Studie 2025 bestätigt das Bild: 36% der deutschen Unternehmen nutzen inzwischen KI – fast doppelt so viele wie im Vorjahr.[³] Aber 53% nennen fehlendes technisches Know-how als größtes Hemmnis, gefolgt von 51% mit unzureichenden personellen Ressourcen.[³]
Was in dieser Diskussion oft untergeht: Das technische Know-how, das fehlt, ist nicht primär KI-Wissen. Es ist Datenwissen. Es ist das Verständnis dafür, wie Daten strukturiert, gepflegt und nutzbar gemacht werden.
3. Warum 80% der KI-Projekte scheitern
Hier wird es unbequem.
Eine MIT-Studie aus 2025 kommt zu einem ernüchternden Ergebnis: Nur 5% der untersuchten KI-Pilotprojekte bringen einen messbaren Mehrwert.[⁴] 95% bleiben ohne Auswirkungen auf die Gewinn- und Verlustrechnung.
Gartner prognostizierte bereits, dass mehr als 30% der Projekte mit generativer KI bis Ende 2025 wegen ausufernder Kosten, unklarem Geschäftswert und schlechter Datenqualität eingestellt werden.[⁵]
Und speziell bei Schweizer Finanzinstituten, also Unternehmen mit überdurchschnittlich guten Ressourcen, scheitern laut einer Dun & Bradstreet-Studie 70% der KI-Projekte bei Versicherern und 61% bei Banken an mangelhafter Datenbasis.[⁶]
Die Hauptgründe für das Scheitern sind immer dieselben:
- Datenqualität: Unvollständige, inkonsistente oder veraltete Daten
- Datensilos: Informationen in verschiedenen Systemen, die nicht miteinander sprechen
- Fehlende Data Governance: Keine klaren Verantwortlichkeiten für Datenqualität
- Unrealistische Erwartungen: KI als Wunderlösung statt als Werkzeug
Ein deutsches Logistikunternehmen investierte 2,5 Millionen Euro in ein KI-System zur Nachfrageprognose. Das Projekt scheiterte, weil historische Verkaufsdaten inkonsistent erfasst wurden und verschiedene Standorte verwendeten unterschiedliche Produktkategorien.[⁷]
Das ist kein Einzelfall. Das ist der Normalfall. Eine KI-Strategie im Mittelstand ohne saubere Datenbasis ist wie ein Haus ohne Fundament.
4. Die unbequeme Wahrheit: Fundament vor Feuerwerk
Hier ist, was dir kein KI-Berater für KI-Strategie Mittelstand sagen wird, der dir eine 18-Monats-Roadmap verkaufen möchte:
Du brauchst zunächst keine KI-Strategie, sondern zuerst eine Datenstrategie.
Oder noch präziser: Du brauchst Antworten auf diese Fragen:
- Welche Daten haben wir überhaupt?
- Wo liegen diese Daten?
- Wer ist für die Datenqualität verantwortlich?
- Wie aktuell und vollständig sind unsere Daten?
- Welche Systeme müssen miteinander kommunizieren?
Die Transformationsstudie 2025 von NTT DATA zeigt: 47% der befragten Unternehmen sehen Datenqualität als kritischen Erfolgsfaktor.[⁸] 55,9% kämpfen bereits mit Cloud-Technologien, aber gleichzeitig mit „dirty data“.[⁸]
Die erfolgreichen Unternehmen machen es anders. Sie investieren zuerst in:
- Datenbereinigung: Altlasten erkennen und aufräumen
- Datenkonsolidierung: Silos auflösen, zentrale Datenquellen schaffen
- Data Governance: Klare Verantwortlichkeiten definieren
- Prozesse: Wie werden Daten erfasst, gepflegt, aktualisiert?
Erst wenn dieses Fundament steht, macht KI Sinn. Denn dann – und nur dann – kann KI tatsächlich Wert schaffen.
Laut Gartner geben Unternehmen 60 bis 80% ihrer KI-Budgets für die Integration aus, nicht für die KI-Entwicklung selbst.[⁹] Wenn du also überlegst, in KI zu investieren: Der Großteil deines Budgets wird in Datenarbeit fließen. Nicht in schicke Algorithmen.
5. Was Mittelständler jetzt konkret tun können
Du hast keine 18 Monate. Du hast kein 500.000-Euro-Budget. Du hast kein Team von Data Analysts, Data Scientists oder Data Engineers.
Du hast vielleicht 3 Stunden pro Woche. Und das ist völlig in Ordnung.
Hier ist ein pragmatischer Ansatz für die nächsten 4-8 Wochen:
Woche 1-2: Bestandsaufnahme
- Erstelle eine Liste aller Datenquellen in deinem Unternehmen (Excel-Dateien, Datenbanken, Software-Systeme)
- Identifiziere die 3-5 wichtigsten Datenquellen für dein Tagesgeschäft
- Frage: Welche Entscheidungen treffen wir heute ohne belastbare Daten?
Woche 3-4: Problemanalyse
- Wo entstehen Doppelerfassungen?
- Welche Daten sind in mehreren Systemen (unterschiedlich) vorhanden?
- Wer pflegt welche Daten – und wie aktuell sind sie?
Woche 5-6: Schnelle erste Erfolge
- Wähle EIN konkretes Datenproblem, das dich regelmäßig Zeit kostet
- Löse dieses Problem. Nicht perfekt, aber funktional
- Dokumentiere den Erfolg: Wie viel Zeit sparst du pro Woche?
Woche 7-8: Struktur schaffen
- Definiere Verantwortlichkeiten: Wer ist für welche Daten zuständig?
- Etabliere einfache Regeln: Wie werden Daten erfasst und aktualisiert?
- Plane den nächsten Schritt
Das klingt nicht sexy. Es gibt keine „KI-Revolution“ in dieser Liste. Aber genau das ist der Punkt.
Die Unternehmen, die in 12-24 Monaten erfolgreich eine KI-Strategie Mittelstand einsetzen, sind diejenigen, die heute ihre Datengrundlage aufräumen. Nicht diejenigen, die heute schon KI-Projekte starten.
Fazit: Pragmatisch starten, nicht perfekt planen
68% der KMUs haben keine KI-Strategie Mittelstand, aber 83% haben vor allem keine Datenstrategie.[¹] Das ist die eigentliche Zahl, über die wir reden sollten!
Die Unternehmen, die heute erfolgreich KI einsetzen, haben nicht mit KI angefangen. Sie haben mit ihren Daten angefangen. Sie haben ihren Excel-Wildwuchs aufgeräumt. Sie haben ihre Datensilos aufgelöst. Sie haben Verantwortlichkeiten geklärt.
Das ist weniger glamourös als eine „KI-Transformation“ und „Data-Driven Decision Making“. Aber es funktioniert. Eine erfolgreiche KI-Strategie Mittelstand beginnt nicht mit KI, sie beginnt mit euren Daten.
Die gute Nachricht: Du bist nicht zu spät dran. Im Gegenteil: Indem du heute deine Datengrundlage aufräumst – nicht in 18 Monaten, sondern in 4-8 Wochen mit dem Team, das du hast, schaffst du die Voraussetzung für alles, was danach kommt.
Und ja, das bedeutet: Es ist völlig in Ordnung, dass du noch keine KI-Strategie hast. Solange du weißt, was der eigentliche erste Schritt ist.
Die häufigsten Fragen zur KI-Strategie Mittelstand ehrlich beantwortet
1. Verlieren wir den Anschluss, wenn wir nicht sofort in KI investieren?
Nein. Zumindest nicht, wenn du stattdessen in deine Datengrundlage investierst. Die MIT-Studie zeigt: 95% der KI-Pilotprojekte scheitern.[⁴] Der Wettbewerbsvorteil liegt nicht darin, als Erster zu starten, sondern als Erster erfolgreich umzusetzen. Und das gelingt nur mit sauberen Daten
2. Wie viel Budget sollten wir für Datenbereinigung einplanen?
Gartner gibt an, dass 60-80% der KI-Budgets in Integration und Datenarbeit fließen.[⁹] Plane also entsprechend. Ein realistischer Ansatz für Mittelständler: Starte mit internen Ressourcen und 3-5 Stunden pro Woche. Externe Unterstützung erst, wenn du weißt, was du konkret brauchst
3. Brauchen wir einen Chief Data Officer?
Für Unternehmen mit 50-200 Mitarbeitern: In der Regel nicht als Vollzeit-Position. Was du brauchst, ist jemand mit klarer Verantwortung für Datenthemen, auch, wenn es nur 20% seiner Arbeitszeit ausmacht. Die Rolle kann mit IT, Controlling oder Geschäftsführung kombiniert werden
4. Welche Tools sollten wir für Datenmanagement nutzen?
Bevor du Tools kaufst: Verstehe dein Problem. Viele Datenprobleme lassen sich mit besseren Prozessen lösen, nicht mit neuer Software. Wenn Tools nötig sind, starte mit dem, was du hast (Microsoft 365, vorhandene ERP-Systeme). Spezialtools erst, wenn der konkrete Bedarf klar ist
5. Wie messen wir den Erfolg unserer Dateninitiative?
Konkret und geschäftsbezogen: Wie viel Zeit sparen wir bei der Angebotserstellung? Wie oft müssen wir Daten nachfragen, die eigentlich vorhanden sein sollten? Wie viele Fehllieferungen haben wir pro Monat? Definiere 2-3 messbare Kennzahlen (KPIs), die direkt mit deinem Tagesgeschäft zusammenhängen
Du gehörst zu den 68% ohne KI-Strategie? Das ist völlig in Ordnung.
Das Problem ist nicht, dass du keine KI-Strategie Mittelstand hast. Das Problem ist: Deine Daten sind noch nicht KI-ready. Doch ohne dieses Fundament wird jede KI-Initiative scheitern.
Der erste Schritt? Deine Datengrundlage aufräumen. Nicht in 18 Monaten, sondern in 4-8 Wochen.
Falls du wissen willst, wo du konkret anfangen solltest: Schreib mir. Wir schauen uns gemeinsam deine Datensituation an und identifizieren in 30 Minuten deinen ersten pragmatischen Schritt.
👉 Wenn du einen ehrlichen, praxisnahen Blick von außen auf eure Datenprojekte willst, lass uns sprechen. In einem unverbindlichen Erstgespräch schauen wir, wo ihr steht und welche zwei nächsten Schritte euch wirklich voranbringen.
Quellen
Externe Quellen
- Maximal.Digital (2025): „KI-Studie 2025: KI im Mittelstand und KMU“ – Studie mit Befragung von 455 Digitalisierungsverantwortlichen.
URL: https://maximal.digital/studie-ki-im-mittelstand-und-kmu-2025-einblicke-und-impulse-aus-der-ki-studie-2025 - Emediaone (2025): „Digitalisierung in KMU: Warum Excel in 2025 nicht mehr reicht“ – Blogartikel.
URL: https://www.emediaone.de/blog/digitalisierung-in-kmu - Bitkom (2025): „Künstliche Intelligenz 2025 – Durchbruch bei Künstlicher Intelligenz“ – Presseinformation, September 2025.
URL: https://www.bitkom.org/Presse/Presseinformation/Durchbruch-Kuenstliche-Intelligenz - MIT Media Lab (2025): „The GenAI Divide: State of AI in Business 2025″ – Studie, zitiert nach news.it-matchmaker.com.
- Gartner (2024): „Herausforderungen bei KI-Projekten“ – Prognose, zitiert nach news.it-matchmaker.com.
- Dun & Bradstreet (2025): „Datenqualität bei Schweizer Finanzinstituten“ – Studie, zitiert nach netzwoche.ch.
- Goldright (2025): „Warum über 80% der KI-Projekte an schlechter Datenqualität scheitern“ – Blogartikel.
URL: https://goldright.com/de/blogs/warum-ueber-80-der-ki-projekte-an-schlechter-datenqualitaet-scheitern - NTT DATA Business Solutions (2025): „Transformationsstudie 2025″ – Studie mit 909 Führungskräften aus 14 Ländern, zitiert nach itwelt.at.
- Gartner (2024): „KI-Transformation ROI“ – Analyse zu KI-Budgetverteilung, zitiert nach b-works.io.
Interne weiterführende Artikel
- Clever Data Consulting: „Warum Datenprojekte im Mittelstand scheitern“ – Blogartikel, abgerufen am 20.02.2026.
URL: https://cleverdataconsulting.net/datenprojekte-im-mittelstand-scheitern/