Fünf Jahre Forschung zu Methoden und Tools für die verantwortliche und menschenzentrierte KI-Gestaltung
Unfall am Durlacher Tor. Eine Bahn steht quer. Der Verkehr stockt. Anschlüsse brechen weg. In der Leitstelle des Karlsruher Verkehrsverbunds laufen die Telefone heiß. Zwei bis drei Minuten bleiben Disponent:innen, um zu entscheiden: Umleitung? Kurzwende? Anschluss halten? Jede Entscheidung wirkt sich auf Tausende Fahrgäste aus. Künftig soll sie dabei eine Künstliche Intelligenz unterstützen.
Ein digitaler Vorschlagsassistent analysiert historische Betriebsdaten, simuliert mögliche Maßnahmen und zeigt an, was passieren würde, wenn welche Option gewählt wird. Die Entscheidung bleibt beim Menschen. Aber er wird bei der Entscheidungsfindung unterstützt.
Der Prototyp wurde im Rahmen des Kompetenzzentrums KARL entwickelt – gemeinsam mit INIT, einem weltweit führenden Anbieter von IT-Lösungen für den öffentlichen Nahverkehr. Inzwischen wird die Lösung aktiv internationalen Verkehrsverbünden angeboten. Erste Anfragen kommen bereits.
Was wie ein einzelnes Praxisprojekt wirkt, ist genaugenommen ein Brennglas für eine größere Bewegung. Denn mit diesem Use Case endet ein fünfjähriges Förderprojekt. Gleichzeitig beginnt etwas Neues.
Zwei Jahre vor ChatGPT
Als KARL im April 2021 startete, gab es kein ChatGPT. Keine breite Sprachmodell-Welle. Keine öffentliche Debatte über „Prompten“ und „Halluzinationen“. Die Projektpartner hatten dennoch Themen auf der Agenda, die heute aktueller kaum sein könnten: Transparenz, Erklärbarkeit, Vertrauen, Mensch-KI-Kooperation. „Wir waren weitsichtig“, sagt Projektleiter Steffen Kinkel, Leiter des Instituts für Lernen und Innovation in Netzwerken (ILIN) an der Hochschule Karlsruhe. „Das Thema Erklärbarkeit von KI ist mit dem Aufkommen der großen Sprachmodelle noch viel wichtiger geworden.“
KI-Systeme liefern Ergebnisse, aber oft ohne nachvollziehbaren Weg dorthin. Für Anwender:innen, die keine IT-Expert:innen sind, entsteht eine Blackbox. KARL hat hier methodisch angesetzt: Wie können Ergebnisse verständlich gemacht werden? Wie kann Vertrauen entstehen, ohne blindes Vertrauen zu fördern? Denn darin liegt eine doppelte Gefahr: Zu viel Misstrauen und die Technologie wird blockiert. Zu viel Vertrauen und Fehler werden ungeprüft übernommen. „Wir brauchen eine Balance“, sagt Kinkel. „Kein Overtrust. Aber auch keine Verweigerung.“
Human in the Loop
Dieses Spannungsfeld hat das Projekt durchzogen. KI nicht als Ersatz, sondern als Assistenzsystem. Nicht als Automatismus, sondern als Kooperationspartner. Das Leitmotiv: Menschenzentrierte KI-Gestaltung oder neudeutsch Human in the Loop.
Gerade beim INIT-Use-Case war das entscheidend. In den ersten Workshops stand die Sorge im Raum, man wolle Arbeitsplätze ersetzen. Stattdessen ging es darum, Stresssituationen besser handhabbar zu machen. Entscheidungen fundierter zu treffen. Neue Mitarbeitende schneller einzuarbeiten. Heute gilt das Projekt als eines der gelungensten Beispiele aus KARL. Es ist technisch robust und anschlussfähig. Und es zeigt, was das Kompetenzzentrum leisten wollte: reale Orte des Erlebens schaffen.
Verschiedene Demonstratoren und Tools – online zugänglich
KARL hat nicht nur Verkehrsalgorithmen hervorgebracht. Verschiedene Online-Demonstratoren und Tools bleiben zugänglich. Darunter ein KI-gestützter Literaturrecherche-Bot mit nachvollziehbarer semantischer Suche. Ein Lernsystem, das Lehrmaterialien kuratiert erweitert. Ein Online-Kurs, der spielerisch über die Funktionsweisen und Grenzen von Sprachmodellen informiert. Eine Auswahlhilfe, die Unternehmen online dabei unterstützt, passende Anwendungsfälle für KI-Anwendungen zu finden. Ein KI-Readiness-Check zur Bewertung der technischen und organisatorischen KI-Bereitschaft von Unternehmen. Ein KI-Kompetenzbenchmark zur Identifikation der für die erfolgreiche Einführung und Nutzung von KI in Unternehmen erforderlichen Kompetenzen. Wie einige dieser Anwendungen konkret funktionieren, zeigen kurze Erklärvideos.
Und reale Demonstratoren aus der Produktion in der Lernfabrik des wbk-Instituts des KIT – von bildbasierter Qualitätskontrolle bis hin zu KI-unterstützter Roboterprogrammierung. Das Ziel war nie, die perfekte Lösung zu liefern. Sondern zu zeigen, was möglich und was nötig ist.
Der Mittelstand schläft nicht
Eine telefonische Umfrage unter mehr als 500 Unternehmen zeichnete ein differenziertes Bild: 40 Prozent nutzen bereits regelmäßig KI. Zwei Jahre davor waren es etwa lediglich ein Drittel davon. „Die Dringlichkeit ist angekommen“, sagt Steffen Kinkel.
Gleichzeitig offenbart die Studie eine riskante Praxis: In rund 70 Prozent der Unternehmen dürfen Mitarbeitende offene Sprachmodelle nutzen, aber nur die Hälfte der Unternehmen hat klare Nutzungsregeln definiert. Datenschutz, Know-how-Abfluss, unsichere Datenräume – oft ungelöst.
Der Mittelstand will handeln. Er ringt jedoch mit den richtigen Anwendungsfällen. „Viele fragen uns: Sagt uns doch, was wir mit KI machen sollen“, so Steffen Kinkel. „Aber so funktioniert es nicht. KI beginnt nicht bei der Technologie. Sie beginnt bei Prozessen, bei Datenqualität und bei der ehrlichen Analyse repetitiver Aufgaben, die sich wirklich automatisieren lassen.“
Daten sind nicht gleich Daten
Einer der größten Denkfehler: ‚Wir haben doch Millionen Datensätze.‘ Menge ersetzt keine Struktur. „Unaufbereitete Daten mit personenbezogenen Attributen sind unbrauchbar und mitunter rechtlich problematisch. In der Qualitätskontrolle etwa können Millionen fehlerfreier Fälle vorliegen, aber nur wenige dokumentierte Fehler. Für ein lernendes System ist das zu wenig.“ KI braucht kuratierte, geeignete Trainingsdaten und realistische Erwartungen. „Es geht nicht superschnell und super einfach“, betont Steffen Kinkel. „Das ist die Illusion.“
Die eigentliche Baustelle: Kompetenzen
Über 200 Unternehmen bewerteten im Projekt ein Modell mit 35 KI-relevanten Einzelkompetenzen. Das Ergebnis: Die Bedeutung wird hoch eingeschätzt. Die personelle Ausstattung ist deutlich geringer. Vor allem werden die technischen Kompetenzen überschätzt und die organisatorischen unterschätzt: Change-Management. Projektsteuerung. Moderationsfähigkeit. Kritisches Hinterfragen von Ergebnissen. „KI-Einführung ist immer ein Transformationsprozess, kein IT-Update.“
Wer Mitarbeitende nicht mitnimmt, riskiert Stillstand – etwa, wenn Betriebsräte erst spät eingebunden werden und Projekte stoppen. Kompetenzentwicklung sei kein Vormittagskurs, betont Steffen Kinkel. Es sei ein Prozess aus Anwenden, Wiederholen, Lernen. Und der braucht Zeit.
Und jetzt?
Die Förderperiode endet im März 2026. Knapp zehn Millionen Euro Fördermittel flossen in fünf Jahren in das Netzwerk aus neun Forschungs- und Transferpartnern sowie elf Unternehmen.
Was bleibt? Das Netzwerk. Die Demonstratoren. Die Online-Plattform. Eine Springer-Buchpublikation mit zentralen Erkenntnissen und ein Kernteam, das Anfragen weiter koordiniert und im Netzwerk verteilt. Zudem laufen Gespräche über Anschlussprojekte. „Es wäre jammerschade, wenn hier nichts bleibt“, sagt Steffen Kinkel. „Wir haben in fünf Jahren eine Marke aufgebaut.“
Wer steckt hinter KARL?
KARL ist eines von aktuell 13 regionalen Kompetenzzentren und zwei wissenschaftlichen Begleitprojekten, das die Auswirkungen von Künstlicher Intelligenz (KI) auf die Lern- und Arbeitswelt untersucht. Ziel von KARL ist es, menschenzentrierte, transparente, lernförderliche und KI-unterstützte Arbeits- und Lernsysteme zu konzipieren und in konkreten Praxisanwendungen vorzeigbar zu machen.
Die Region Karlsruhe mit dem nationalen Digital Hub für angewandte KI und einem der führenden IT-Cluster in Europa bietet dafür großes Entwicklungspotenzial. Konsortialführer ist die Hochschule Karlsruhe.
Zum Projektkonsortium gehören neben neun Forschungs- und Transferpartnern auch elf regionale Unternehmen sowie das CyberForum, das eine zentrale Rolle in der Öffentlichkeitsarbeit, im Community-Management sowie im Nachhaltigkeitskonzept übernimmt.
Bis März 2026 wurde KARL vom Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR) mit knapp zehn Millionen Euro gefördert.
