Warum KI-Projekte in Unternehmen scheitern

KI-Projekte bleiben häufig in der Pilotphase stecken

Künstliche Intelligenz ist in Unternehmen angekommen – zumindest in Form von Pilotprojekten, Tests und ersten Anwendungen. Der wirtschaftliche Durchbruch lässt jedoch vielfach noch auf sich warten. Zwischen der strategischen Bedeutung, die Unternehmen KI beimessen, und ihrer Fähigkeit, die Technologie tatsächlich in produktive Prozesse zu überführen, klafft eine erhebliche Lücke.

Untersuchungen und Einschätzungen der Technologieunternehmen HTEC, Insight und Ardent Partners im Auftrag von Ivalua zeigen dabei ein erstaunlich einheitliches Bild: Nicht in erster Linie die Leistungsfähigkeit der KI ist das Problem. Häufig fehlen vielmehr geeignete Daten, integrierte Prozesse, klare Verantwortlichkeiten und das notwendige Wissen im Unternehmen.

Wie groß die Diskrepanz zwischen Experiment und wirtschaftlichem Nutzen ist, verdeutlicht die von HTEC durchgeführte Befragung: Von den befragten 1.529 Führungskräfte haben lediglich 45 Prozent KI bereits funktionsübergreifend in ihrem Unternehmen verankert. Nur rund ein Viertel schafft es, KI-Lösungen über den Pilotstatus hinaus zu skalieren.

Große Ambitionen, aber kein klarer Fahrplan

Ein wesentlicher Grund dafür ist die Diskrepanz zwischen strategischem Anspruch und praktischer Vorbereitung. Eine Untersuchung des AI Solutions Integrators Insight unter IT-Entscheidern in Deutschland und Österreich ergab, dass 81 Prozent der Befragten KI eine hohe strategische Priorität beimessen.

Einen klaren, unternehmensweiten Fahrplan für ihre Einführung besitzen jedoch lediglich 31 Prozent. Nur 32 Prozent sehen in ihrem Unternehmen zudem das notwendige Wissen für die Implementierung vorhanden. Entsprechend sind 60 Prozent der Befragten der Ansicht, dass die KI-Einführung zu langsam vorankommt.

Ein ähnliches Muster zeigt sich im Einkauf. Nach der Untersuchung von Ardent Partners und Ivalua erkunden oder testen 90 Prozent der befragten Organisationen KI. 61 Prozent betrachten sie als Instrument, um Produktivität und Skalierbarkeit zu erhöhen. Gleichzeitig landen 67 Prozent in dem von der Studie als »Overreaching« bezeichneten Bereich: Die Unternehmen verfolgen ambitionierte KI-Ziele, verfügen aber noch nicht über die dafür notwendigen Daten- und Governance-Strukturen.

Daten bleiben eine der größten Baustellen

Besonders deutlich wird das Problem beim Datenfundament. KI kann nur mit Informationen arbeiten, auf die sie tatsächlich zugreifen kann. In vielen Unternehmen ist ein erheblicher Teil des für Geschäftsprozesse wichtigen Wissens jedoch überhaupt nicht strukturiert erfasst. Erfahrungen von Beschäftigten, informelle Abläufe, Ausnahmen von festgelegten Prozessen und implizite Entscheidungen tauchen in Datenbanken und Prozessbeschreibungen häufig nicht auf. KI-Systemen fehlt damit genau der Kontext, der für die richtige Einordnung einer Aufgabe entscheidend sein kann.

Hinzu kommt die Fragmentierung der vorhandenen Daten. In der Studie von Ardent Partners und Ivalua nennen 59 Prozent der Einkaufsverantwortlichen Qualität, Verfügbarkeit oder Struktur der Daten als wesentliches Hindernis für den KI-Einsatz. Lediglich elf Prozent verfügen über ein einheitliches Datenmodell für den gesamten Source-to-Pay-Prozess.

41 Prozent beschreiben in der Umfrage ihre Daten zwar als integriert, sind aber weiterhin auf manuelle Abstimmungen zwischen unterschiedlichen Systemen angewiesen. Bei weiteren 40 Prozent sind die Daten fragmentiert und es fehlt eine verbindliche »Single Source of Truth«. Acht Prozent berichten zudem von relevanten Informationen, die in unstrukturierten Formaten als „Dark Data“ verborgen bleiben.

Die naheliegende Antwort, einfach noch mehr Daten zu sammeln, greift nach Einschätzung von HTEC allerdings zu kurz. Fehlt der geschäftliche Kontext, können zusätzliche Daten bestehende falsche Annahmen sogar verstärken. Ein KI-System kann dann technisch sehr präzise arbeiten und trotzdem am eigentlichen Problem vorbeiarbeiten.

Integration in bestehende Systeme wird zum Engpass

Eng mit dem Datenproblem verbunden ist die vorhandene IT-Landschaft. Viele Unternehmenssysteme und Legacy-Architekturen entstanden lange bevor der Einsatz aktueller KI-Anwendungen absehbar war. Neue Lösungen lassen sich deshalb nicht ohne Weiteres in vorhandene Prozesse integrieren.

»Der Versuch, KI-Erfolge auf Infrastruktur zu erzielen, die dies nicht tragen kann, verzögert den geschäftlichen Nutzen und begrenzt die Skalierbarkeit,«, sagt Alex Saric, Experte für Smart Procurement bei Ivalua. »Der Erfolgsplan erfordert die Wahl einer passenden einheitlichen Architektur, die Implementierung von Human-in-the-Loop-Kontrollen und erst danach die beschleunigte breite Einführung, um sicherzustellen, dass KI im Einkauf im operativen Alltag einen echten Mehrwert liefert.«

43 Prozent der von HTEC befragten Führungskräfte nennen die Integration in bestehende Systeme als zentrale Hürde. Im Einkauf fällt der Wert in der Untersuchung von Ardent Partners und Ivalua mit 51 Prozent sogar noch höher aus. KI wird damit schnell zu einer zusätzlichen technischen Ebene, statt vorhandene Arbeitsabläufe tatsächlich zu vereinfachen.

Das Problem verschärft sich mit dem Übergang von klassischen Assistenzsystemen zu agentischer KI. Mehr als 80 Prozent der von Ardent Partners und Ivalua untersuchten Unternehmen wollen innerhalb der kommenden drei Jahre entsprechende Funktionen einführen. Solche Systeme sollen nicht mehr lediglich Informationen liefern, sondern zunehmend eigenständig Aufgaben ausführen. Damit steigen jedoch auch die Anforderungen an Datenqualität, Systemintegration und Kontrollmechanismen.

Governance und Vertrauen werden zum Erfolgsfaktor

KI kann Ergebnisse mit großer Überzeugungskraft präsentieren, ohne den geschäftlichen Kontext tatsächlich zu verstehen. Flüssige Sprache und professionell wirkende Analysen können den Eindruck einer fachlichen Sicherheit erzeugen, die nicht immer vorhanden ist. Gerade schwer erkennbare Fehler werden dadurch als bare Münze genommen und nicht weiter hinterfragt. Das ist besonders gefährlich.

Die Sorge ist in den Unternehmen entsprechend groß. In der Ivalua-Studie zum Einkauf stufen 96 Prozent der Befragten die Risiken sogenannter Black-Box-KI als „hoch2 oder zumindest „moderat“ ein. 51 Prozent nennen Halluzinationen als größte Sorge. Gleichzeitig fehlt bei 34 Prozent der Unternehmen noch ein formelles Governance-Modell für den KI-Einsatz.

Technische Leistungsfähigkeit allein reicht deshalb nicht aus. Unternehmen müssen festlegen, welche Entscheidungen eine KI treffen darf, welche Daten sie verwenden kann, wer Ergebnisse kontrolliert und wer letztlich die Verantwortung trägt. 63 Prozent der Befragten betrachten deshalb einen „Human-in-the-Loop“-Ansatz mit manueller Freigabe kritischer Entscheidungen als unverzichtbaren Bestandteil einer KI-Governance.

Erfolgreiche Unternehmen schaffen zuerst die Grundlagen

Dass sich diese Investitionen auszahlen können, zeigen die Unternehmen, die als Vorreiter eingestuft werden. In der Untersuchung von Ardent Partners und Ivalua haben 23 Prozent der Organisationen bereits einen „AI-first“-Ansatz im Einkauf erreicht. Sie zeichnen sich vor allem durch solide Datenfundamente, etablierte Governance und integrierte Arbeitsabläufe aus.

Die Untersuchungen legen für erfolgreiche KI-Projekte letztlich eine ähnliche Vorgehensweise nahe: Unternehmen sollten nicht mit möglichst vielen Anwendungen beginnen, sondern zunächst konkrete Geschäftsprobleme identifizieren und ihre Prozesse verstehen.

Anschließend gilt es zu prüfen, welche Daten und welches implizite Wissen für diese Prozesse benötigt werden und wie sie für KI-Systeme verfügbar gemacht werden können. Darauf müssen eine geeignete technische Architektur, integrierte Workflows und klare Governance-Regeln aufbauen. Erst wenn diese Grundlagen vorhanden sind, sollte eine Anwendung breit skaliert werden.

Auch die Auswahl der ersten Anwendungsfälle spielt eine Rolle. Besonders geeignet sind Bereiche, in denen Daten bereits gut verfügbar und Ergebnisse messbar sind. Im Einkauf gehören dazu beispielsweise Ausgabenanalysen, die derzeit von 22 Prozent der Befragten mit KI unterstützt werden, sowie Lieferantenakquise und -onboarding und die automatisierte Rechnungsprüfung mit jeweils 20 Prozent.

Menschliche Expertise bleibt wichtig

Zugleich sollten Unternehmen menschliche Expertise nicht als Übergangslösung betrachten, die mit zunehmender Leistungsfähigkeit der KI überflüssig wird. Im Gegenteil: Je mehr Verantwortung KI-Systeme übernehmen, desto wichtiger werden Fachleute, die Ergebnisse einordnen, Ausnahmen erkennen und Verantwortung für Entscheidungen übernehmen können. Fast die Hälfte der von Ardent Partners und Ivalua Befragten – 47 Prozent – sieht dementsprechend die kognitive Unterstützung der Beschäftigten als wichtigstes Ziel eines künftigen Zusammenspiels von Menschen und KI-Agenten.

HTEC verweist zudem darauf, dass extern beschaffte oder gemeinsam mit Partnern entwickelte KI-Lösungen etwa doppelt so häufig erfolgreich skaliert werden wie reine Eigenentwicklungen. Für Unternehmen kann es deshalb sinnvoll sein, internes Prozess- und Branchenwissen gezielt mit externer KI- und Engineering-Kompetenz zu kombinieren.

Damit verschiebt sich auch die entscheidende Frage. Für Unternehmen geht es immer weniger darum, ob sie KI einsetzen. Die wichtigere Frage lautet, ob ihre Organisation darauf vorbereitet ist. Datenqualität, Prozessverständnis, Integration, Governance und menschliche Expertise entscheiden darüber, ob aus einem erfolgreichen Pilotprojekt eine Anwendung wird, die im Unternehmensalltag tatsächlich messbaren Nutzen bringt.

»Adoption ist kein Wettbewerbsvorteil mehr«, sagt dazu Sebastian Seutter, Global Managing Partner Continental Europe bei HTEC. »Fast jedes Unternehmen setzt heute KI ein. Den Unterschied macht, wie konsequent eine Organisation ihre eigenen Prozesse versteht und den passenden Kontext für die Technologie bereitstellt. Überall dort, wo Wissen und Kontext zusammenkommen, wird KI nicht zum Ersatz von Menschen, sondern zum Verstärker ihrer Expertise. Genau darin liegt ihr eigentliches Potenzial – und der wirtschaftliche Hebel.«

Über die Umfragen

Der Bericht von HTEC wurde durch Censuswide erstellt und basiert auf einer Befragung von 1.529 Führungskräften der obersten Managementebene (C-Level) aus den Branchen Gesundheitswesen, Automobilindustrie, Telekommunikation, Finanzdienstleistungen und Versicherungen, Einzelhandel sowie Halbleiterindustrie. Die Befragung wurde in den USA, Großbritannien, Deutschland, Spanien, Saudi-Arabien und den Vereinigten Arabischen Emiraten durchgeführt. Der Bericht »A Cross-Industry Views of the State of AI in 2025-2026« steht nach Registrierung kostenlos zum Download zur Verfügung.

Für den von Ardent Partners im Auftrag von Ivalua erstellte Bericht »The Path to AI-First Procurement« wurden von Januar bis März 2026 311 Chief Procurment Office rund andere Einkaufsverantwortliche aus 25 Branchen befragt. Schwerpunkt der Befragung lag auf Nordamerika und der Region EMEA (57 beziehungsweise 30 Prozent der Befragten) sowie auf Unternehmen mit einem Umsatz über 250 Millionen Dollar (83 Prozent der Befragten). Über 100 Befragte wurden zusätzlich zum Standard-Fragebogen noch individuell interviewt. Auch dieser Bericht steht nach Registrierung kostenlos zum Download zur Verfügung.

Die Studie von Insight zur KI-Nutzung in Unternehmen wurde von Coleman Parkes im Frühjahr 2026 durchgeführt. Dabei wurden 200 Entscheidungsträger in den Bereichen KI, IT und Technologie befragt, jeweils 100 aus Deutschland und Österreich. Alle Befragten arbeiten für Unternehmen mit 500 oder mehr Beschäftigten und sind in verschiedenen Branchen tätig.