Wie viel von der aktuellen KI-Debatte ist berechtigte Sorge und wie viel ist Übertreibung? Welche Risiken sollten wir ernst nehmen? Und wer trägt Verantwortung für die Zukunft dieser Technologie?
Mit diesen Fragen beschäftigen wir uns in unserer Interviewreihe „KI: Wendepunkt oder Übertreibung?“. Dafür haben wir Expertinnen und Experten aus dem CyberForum-Netzwerk um ihre persönliche Einschätzung gebeten.
Weiter geht es mit Tobias Joch von inovex. Im Gespräch teilt er seine Sicht auf die aktuelle Weltlage, die Rolle der großen KI-Anbieter und die Herausforderungen, die vor uns liegen.
Wie glaubwürdig sind die Warnungen der führenden KI-Unternehmen aus deiner Sicht?
Die Warnungen der großen Player (OpenAI, Anthropic, Google) sind aus meiner Sicht eine Mischung aus echter technologischer Ehrfurcht und knallhartem wirtschaftlichen Kalkül. KI ist eine neue Basistechnologie, bei der der Vorsprung eines einzelnen Anbieters aktuell noch sehr fragil ist. Es geht um gigantische Summen: Die Börse bepreist den Glauben an diese Zukunft so, als sei sie bereits eingetreten. Unternehmen wie SpaceX, OpenAI und Anthropic würden zusammen auf eine Bewertung von rund vier Billionen Dollar kommen. Gleichzeitig profitieren die großen Hyperscaler (Microsoft, Amazon, Google) immens vom Verkauf der benötigten Rechenleistung und als Investoren. Wenn die Marktführer nun stark vor Risiken warnen und nach Regulierung rufen, bauen sie damit ganz gezielt regulatorische Markteintrittsbarrieren (“Burggräben”) auf. Für kleine Startups oder Open-Source-Projekte werden die Compliance- und Infrastrukturkosten dann unerschwinglich. Das Gerücht eines angestrebten Oligopols zur Wettbewerbserschwerung hat also absolut ein wahres Fundament.
Welche Risiken der aktuellen KI-Entwicklung werden überschätzt und welche unterschätzt?
Dystopische “Superintelligenz”-Szenarien und das völlige Ersetzen des Menschen werden in der kurzfristigen Debatte oft überschätzt. Was wir hingegen gefährlich unterschätzen, sind die konkreten, schleichenden Veränderungen in der Softwareentwicklung – ganz besonders im Bereich Security. Die effektive Nutzung von KI-Tools erfordert viel Erfahrung und Abstraktionsvermögen. Für Berufseinsteiger wird es paradoxerweise schwieriger, da sie Gefahr laufen, die von der KI generierten Ergebnisse naiv zu nutzen und tiefgreifende Fehler zu übersehen. Das führt zu einem enormen Sicherheitsrisiko, wenn ungeprüfter KI-Code in Produktion geht. Gleichzeitig bedroht KI auch unsere Alt-Systeme: Leistungsfähige Modelle können genutzt werden, um bestehenden Legacy-Code, der noch überall online und im Umlauf ist, in rasender Geschwindigkeit automatisiert auf Schwachstellen zu scannen. Ein weiteres unterschätztes Risiko ist zudem der exponentielle Anstieg von “Wegwerf-Code”: Wir werden extrem viel “Einmalsoftware” und schnell generierte Anwendungen für punktuelle Zwecke sehen. Das führt nicht nur zu einer massiven Flut an Code-Müll, sondern vergrößert auch die Angriffsfläche massiv.
Glaubst du, dass eine wirksame Steuerung der KI-Entwicklung noch realistisch ist?
Eine wirksame, globale Steuerung durch verbindliche Grenzen halte ich für extrem ambitioniert bis unrealistisch. Der wirtschaftliche und technologische Wettbewerb ist schlichtweg zu stark. Es geht um die technologische und wirtschaftliche Vormachtstellung der nächsten Jahrzehnte. Selbst wenn sich Staaten auf Verlangsamungen einigen würden, lässt sich die Open-Source-Entwicklung nicht wieder in die Flasche zurückdrängen. Freiwillige Grenzen von Unternehmen werden immer genau dort enden, wo sie den eigenen Markterfolg oder die eigene Innovationsgeschwindigkeit gefährden.
Wie wahrscheinlich ist ein internationaler Konsens beim Umgang mit leistungsfähiger KI?
Ein echter, belastbarer Konsens zwischen den USA, Europa und China ist geopolitisch extrem unwahrscheinlich. Wir steuern ganz klar auf eine Phase des technologischen Wettrüstens zu. Europa versucht sich aktuell mit dem AI Act als “regulatorisches Vorbild” zu positionieren, muss aber aufpassen, nicht den Anschluss in der technologischen Umsetzung zu verlieren. Anstatt nur auf internationale Regulierungs-Wunder zu hoffen, sollten wir in Deutschland und Europa pragmatisch handeln: Wir müssen unsere eigene Resilienz stärken, souveräne (KI-)Infrastrukturen aufbauen und KI als echten Wertschöpfungshebel in unsere Industrien (etwa im Mittelstand oder der produzierenden Industrie) integrieren.
