Wie viel von der aktuellen KI-Debatte ist berechtigte Sorge und wie viel ist Übertreibung? Welche Risiken sollten wir ernst nehmen? Und wer trägt Verantwortung für die Zukunft dieser Technologie?
Mit diesen Fragen starten wir unsere neue Interviewreihe „KI: Wendepunkt oder Übertreibung?“. Dafür haben wir Expertinnen und Experten aus dem CyberForum-Netzwerk um ihre persönliche Einschätzung gebeten.
Den Anfang macht unser Vorstand Ralf Schneider, der sich bereits seit den 1980er Jahren mit den Chancen und Risiken intelligenter Systeme beschäftigt. Im Gespräch teilt er seine Sicht auf die aktuelle Weltlage, die Rolle der großen KI-Anbieter und die Herausforderungen, die vor uns liegen.
1. Wie glaubwürdig sind die Warnungen der führenden KI-Unternehmen aus deiner Sicht?
Sind sie Ausdruck echter Sorge über die möglichen Folgen immer leistungsfähigerer KI-Systeme oder spielen wirtschaftliche und strategische Interessen dabei eine ebenso große Rolle?
Über die wahre Motivation, warum die KI-Player aktuell über die Gefahren zukünftiger KI-Entwicklungen warnen, kann ich – wie jeder andere auch – nur spekulieren. Wirtschaftliche Interessen sind nicht von der Hand zu weisen; dennoch glaube ich, dass Ihnen die Risiken wirklich bewusst sind und sie ehrlich davor warnen wollen.
Die Risiken sind auch nicht neu. Ich habe mich schon 1988 während eines halbjährigen Praktikums bei der Unternehmensberatung ibek im Rahmen einer von der EU finanzierten Studie mit der Technologiefolgenabschätzung von Expertensystemen auf der Basis von neuronalen Netzen beschäftigt. Wenn auch erst die Rechnerleistung und -kapazitäten der letzten 10 Jahre einen effektiven Einsatz der KI möglich machten, hat sich die Technologie seitdem nicht groß verändert. Und schaut man die KI-Literatur der letzten 20 Jahren durch, stehen auch dort (meist nur auf den letzten Seiten) die Warnungen, die wir schon vor 40 Jahren formuliert haben und 1:1 von den KI-Playern aktuell wiederholt werden.
KI birgt Riesenchancen, ist aber in den falschen Händen eine Bedrohung für die gesamte Menschheit. Das hatten wir aber alles schon: bei der Erfindung des Dynamits bis hin zur ersten erfolgreichen Atomspaltung.
2. Welche Risiken der aktuellen KI-Entwicklung werden deiner Meinung nach überschätzt und welche werden gefährlich unterschätzt?
Zuerst einmal hat die KI weder ein Bewusstsein noch einen freien Willen. Das ist mit den aktuellen Technologien auch definitiv nicht umsetzbar. Gefahren, wie sie in manchen Köpfen herumgeistern, dass die KI zu dem Schluss kommen könnte, dass die Menschen der Erde schaden und deshalb vernichtet werden müssen, sind meiner Meinung nach völlig unrealistisch. ABER das braucht es leider auch gar nicht. Terrororganisationen oder sogar Staaten könnten auf die Idee kommen, die KI zu solchen Massenvernichtungen einzusetzen, indem sie sich (nur als ein Beispiel) in Frühwarnsysteme für Atomraketen hacken und damit die oft in den 80er Jahren befürchtete Atomeskalationsspirale (Accidental War) auslösen.
Und damit sind definitiv alle aktuell genannten Risiken möglich. KI ist oder wird bald in der Lage sein, in IT-Systeme aller Art einzubrechen und dort für größten Schaden zu sorgen. Deshalb sollte schon seit Jahren höchste Aufmerksamkeit auf IT-Sicherheit gelenkt werden – IT-Sicherheit muss endlich zur Chefsache gemacht werden.
3. Glaubst du, dass eine wirksame Steuerung der KI-Entwicklung noch realistisch ist?
Da bin ich sehr pessimistisch. Wir haben es in der Völkergemeinschaft in erster Regel nicht mit demokratischen altruistischen Staatenlenkern zu tun, sondern es gibt viel zu viele Politiker, die in aller ersten Linie ihre eigenen Interessen verfolgen und denen leider sehr egal ist, ob darunter andere Nationen leiden. Das in unserer aller Köpfe verankerte WIN-WIN-Prinzip als Erfolgsmodell ist bei vielen (noch) nicht angekommen.
Deshalb würde vermutlich jede Regulierung ins Leere laufen, da zu viele sich nicht daran halten werden. Ich plädiere dennoch dafür, eine solche anzustreben (ähnlich Atomabkommen, die auch nicht alle unterschreiben), um zumindest Bewusstsein zu schaffen, welche Konsequenzen ein KI-Missbrauch haben kann.
Man sollte sich aber nicht mit diesen präventiven Maßnahmen begnügen; viel m ehr sind reaktive Maßnahmen nötig, um sich ggf. vor Missbrauch zu schützen.
Ich spreche hier bewusst nur von den schlimmsten Bedrohungsszenarien. Andere Szenarien wie die Veränderung der Arbeitswelt oder des Freizeitverhaltens können nur durch Bildung bzw. Aufklärung in Positives verändert werden. Die Technologie wird in Zukunft bislang Undenkbares bieten (das wird man – wenn sich die KI-Unternehmen dadurch wirtschaftlichen Erfolg versprechen – nicht verhindern können); aber es liegt an uns, was wir aus der „alten Welt“ erhalten und auf welche Innovationen wir uns beschränken wollen. Es hat wie immer jeder Einzelne in der Hand. Nicht die anbietenden Konzerne haben „Schuld“ sondern die kaufenden Konsumenten.
4. Wie wahrscheinlich ist ein internationaler Konsens zwischen den USA, Europa und China beim Umgang mit leistungsfähiger KI?
Ich bin – wie schon oben gesagt – sehr skeptisch, dass ein solcher Konsens erzielt werden kann. Aktuell lassen sich weder Donald Trump noch XI Jinping auf die Forderung ihrer KI-Unternehmen ein, das KI-Entwicklungstempo zu drosseln. Ich befürchte, dass es in Zukunft wohl eher ein technologisches Wettrüsten gibt.
Bei all den Fragen fällt mir auf, wie unsicher ich bei der Beantwortung bin. Ein permanenter Austausch darüber, um sich auf diesem Weg eine profundere Meinung zu bilden, wäre sicherlich ein erster Schritt.
