Alexander Waldmann

KI beschleunigt die Softwareentwicklung, verschiebt den Aufwand aber oft in die Nacharbeit. Warum Tempo ohne strukturierte Qualitätskontrolle in Instabilität kippt und wie Unternehmen den Wert ihrer KI-Investitionen tatsächlich steigern können. Von jedem Dollar, den Unternehmen in KI-gestützte Softwareentwicklung stecken, schaffen es laut einer aktuellen Analyse von Entelligence nur 18 Cent tatsächlich in die Produktion. Der Rest fließt in Bug-Fixes, Rewrites und Review-Verzögerungen. Der Lightrun State of AI-Powered Engineering Report 2026 ergänzt, dass 43 Prozent des KI-generierten Codes nach dem Qualitäts-Check noch einmal manuell in der Produktion einem Debugging unterzogen werden müssen. Beide Studien zeigen denselben Effekt aus unterschiedlicher Richtung. KI-gestützte Entwicklung beschleunigt Commits, die Generierung von Codezeilen und Sprints, verliert aber alles, was danach kommt, aus den Augen. Das Risiko dabei ist, dass technische Schulden und Produktionsausfälle entstehen, die in erodierendem Kundenvertrauen münden können. Tempo ohne Kontrolle kippt in Instabilität Sprachmodelle sind darauf trainiert, plausible Ausgaben zu liefern, nicht zwangsläufig korrekte. KI-Systeme erzeugen deshalb häufig Testergebnisse, die auf den ersten Blick wie ein Erfolg aussehen, jedoch die kritischen Validierungen überspringen. Hundertprozentige Testabdeckung ist wenig wert, wenn die Tests die relevanten Fälle gar nicht prüfen. Hinzu kommt, dass KI-generierter Code im Schnitt viermal so viel Pflegeaufwand wie manuell geschriebener Code benötigt. Das erklärt einen großen Teil der 43 Prozent Nacharbeit aus dem Lightrun-Report. Außerdem übernehmen KI-Systeme Kriterien aus Requirements und bestehendem Code, ohne zu hinterfragen, ob eine Implementierung sinnvoll ist. Erfahrene Testerinnen und Tester bringen dagegen ein implizites Wissen mit, das in keiner Dokumentation steht. KI-Einsatz ohne strukturierte Prüfung erhöht das Risiko KI-gestützte Entwicklung ohne strukturierte Evaluation verlagert den Aufwand und führt oft dazu, dass Teams Fehler erst später entdecken. Da Sprachmodelle nicht-deterministisch arbeiten, greifen klassische Pass-Fail-Tests zu kurz. Teams brauchen stattdessen strukturierte Kriterien wie Genauigkeit, Relevanz und Sicherheit, entlang derer Testerinnen und Tester Modellantworten bewerten. Zusätzlich verschiebt sich die Treffsicherheit von KI-Modellen mit der Zeit von selbst, anders als bei klassischem Code. Fachleute unterscheiden dabei Eingabedrift (Produktionsdaten weichen von den Trainingsdaten ab), Label-Drift (die Definition von „richtig" und „falsch" verändert sich) und Konzeptdrift (die gelernten Zusammenhänge selbst verändern sich, etwa durch saisonale Kaufmuster). Alle drei verlangen eine kontinuierliche Beobachtung. Das „Golden Dataset“ als hochzuverlässige Referenz Wiederholbare Qualitätssicherung braucht einen festen Bezugspunkt. Generische Benchmarks liefern diesen nicht, weil sie Anwendungsfall und Geschäftsregeln eines Unternehmens nicht abbilden. Hier setzt das „Golden Dataset“ an, das eine von Fachexpertinnen und -experten kuratierte Referenzsammlung ist, die als verbindliche Quelle für Bewertungen dient. Der Aufbau folgt einem kontinuierlichen Zyklus. Zunächst dehnen synthetische Erweiterungen die Abdeckung auf Grenzfälle aus, dann liefert eine Multi-Model-Jury-Bewertung mehrerer unabhängiger Modelle zusätzliche Absicherung und am Ende klärt ein Expert-Audit-Loop mögliche Bewertungskonflikte. Das macht das „Golden Dataset“ zu einer fortlaufenden Investition, die langfristig den Aufwand für manuelle Nacharbeit reduziert. Warum der Modell-Anbieter nicht gleichzeitig Prüfinstanz sein kann Ein Anbieter, der ein KI-Modell baut, hat naturgemäß ein Interesse an dessen guter Performance in Benchmarks. Das schafft einen Interessenkonflikt, der sich mit internen Kontrollen allein nicht ohne Weiteres auflösen lässt. Es ist ein bisschen wie in der Luftfahrt. Passagiere vertrauen einem Flugzeug nicht, weil der Hersteller selbst erklärt, es sei sicher, sondern weil unabhängige Zulassungsstellen das Vertrauen schaffen. Für KI-Systeme gilt dasselbe Prinzip. Eine neutrale dritte Partei ist besser in der Lage, diese Bewertung glaubwürdig vorzunehmen. Was das für Engineering-Teams heißt Drei Konsequenzen ergeben sich für Teams, die KI-gestützte Entwicklung skalieren wollen: Produktivitätskennzahlen sollten den gesamten Lebenszyklus abbilden. Nacharbeit, Reopen-Raten von Tickets und Produktionsvorfälle nach KI-Releases sind aussagekräftiger als die Anzahl von Codezeilen in einer Stunde. Ein „Golden Dataset“ lohnt sich als frühe Investition, weil es Qualitätsabweichungen systematisch statt zufällig sichtbar macht. Die Prüfinstanz für KI-Qualität muss organisatorisch von der Modellentwicklung getrennt sein, intern wie extern. Die Zahlen von Entelligence und Lightrun zeigen denselben Befund aus zwei Richtungen. Zwar beschleunigt KI die Code-Erstellung, verschiebt aber bei fehlender Evaluation den Aufwand in die Nacharbeit. Ein gepflegtes „Golden Dataset“, kontinuierliche Beobachtung von Modell-Drift und eine unabhängige Prüfinstanz bilden zusammen die Grundlage, auf der sich Geschwindigkeit tatsächlich in Effizienz übersetzen lässt.

Wenn KI-Code schneller entsteht, als er geprüft wird

Katz und Maus: Wie Künstliche Intelligenz die Cybersicherheit verändert

Human-in-the-Loop: Das Ende des manuellen Buchens

KI ist kein IT-Projekt

IT-Gehälter in Karlsruhe steigen weiter – besonders erfahrene Fachkräfte profitieren

8 Arten der Startup-Finanzierung

Warum viele Deutsche ein Recht auf digitales Bezahlen wollen

Wenn Künstliche Intelligenz zum Bankkunden wird

No-Code-Automation: Hebel für Startups

8 Arten der Startup-Finanzierung

Startup AMS Go im Gründerview

Startup MAIQ im GründerView

Wie viel Mensch verträgt die KI?

Vom Know-how zum Green Skill: Wenn Nachhaltigkeit zur Kompetenz wird

Was macht KI mit unserem Denken? Ein Blick auf die MIT-Studie

Vom Hype zum Helfer: Wie KI-Agenten Fahrt aufnehmen

Alexander Waldmann

Wenn KI-Code schneller entsteht, als er geprüft wird

Wenn KI-Code schneller entsteht, als er geprüft wird

IT-Gehälter in Karlsruhe steigen weiter – besonders erfahrene Fachkräfte profitieren

Katz und Maus: Wie Künstliche Intelligenz die Cybersicherheit verändert

Human-in-the-Loop: Das Ende des manuellen Buchens

KI ist kein IT-Projekt