Berlin - Der britische Informatiker Stuart Russell warnt vor den existenziellen Gefahren der künstlichen Intelligenz. Die Menschheit sei dabei, die Kontrolle über die Technologie zu verlieren, sagte Russell dem "Spiegel". Er forscht seit 50 Jahren an KI-Systemen und zählt zu den Geburtshelfern der Technologie.
"Die Menschheit ist in einer schlechten Lage. Alle Tests schlagen Alarm, die Sirenen heulen. Und wir ignorieren das einfach. Das ist Wahnsinn", so Russell. Schon heute wüssten die KI-Entwickler im Silicon Valley nicht mehr, welche Ziele ihre Supersysteme hätten und wie sie planten, diese zu erreichen. "Wir wissen nicht, was sie 'denken'. Wir verstehen nicht einmal ihre genaue Funktionsweise", sagte er dem Magazin. Sobald es Systeme gebe, die im Wesentlichen fähiger seien als Menschen, "haben wir Menschen kein Mitspracherecht mehr".
Natürlich werde die Menschheit, sobald sie das Gefühl habe, die Kontrolle zu verlieren, versuchen, die KI abzuschalten. "Die Frage ist, ob die Maschinen uns noch lassen. Wenn sie mitbekommen, dass wir sie abschalten wollen, haben sie allen Grund, das zu verhindern. Sie müssen uns auslöschen. Wenn wir also weiter Superintelligenz entwickeln, ohne sie an unsere Interessen anzupassen, ohne sie zu verstehen, ohne Sicherheitsgarantien, dann halte ich es für sehr wahrscheinlich, dass wir die Kontrolle verlieren."
Laut Russell, der an der Eliteuniversität Berkeley in Kalifornien forscht und zu den renommiertesten KI-Experten der Welt zählt, dürften die Computer irgendwann einen Konflikt mit der Menschheit antizipieren. Sobald das geschehe, "werden sie sich in vielerlei Hinsicht reproduzieren, millionenfach kopieren". Allein der Zugriff aufs Internet gebe ihnen mehr Einfluss auf menschliches Verhalten, als Adolf Hitler je hatte. "Hitler konnte nur zu einem Zeitpunkt in ein einziges Mikrofon sprechen, nur eine Botschaft gleichzeitig senden. Er hat dennoch die Massen aufgehetzt. Diese Systeme könnten das Internet fluten, fünf Milliarden Gespräche gleichzeitig führen, fünf Milliarden einzelne Menschen beeinflussen. Was Hitler getan hat, könnte die KI schneller, besser, effektiver."
Über Millionen Roboter, die weltweit schon heute im Einsatz seien, bekomme eine solche Super-KI zudem Zugriff auf die physische Welt. Sie könne in teilautonome Waffensysteme eindringen oder Biolabore kontrollieren, so Russell. Noch sei es nicht zu spät, das zu verhindern. Dafür brauche es aber schnellstmöglich eine gesetzliche Regulierung der Technologie. Zudem eine KI, deren einziges Ziel es sei, "menschliche Interessen zu fördern". Derlei zu etablieren, "könnte leicht ein Jahrzehnt dauern", so Russell. Deshalb brauche es ein Entwicklungs-Moratorium der Technologie. Man drücke "gewissermaßen auf 'Pause' und arbeite an der Sicherheit". Dies sei laut Russell die einzige Chance für die Menschheit, ihre Existenz zu sichern. "Langfristig gibt es nur drei Zukünfte: sichere KI, keine KI oder keine Menschen."
"Die Menschheit ist in einer schlechten Lage. Alle Tests schlagen Alarm, die Sirenen heulen. Und wir ignorieren das einfach. Das ist Wahnsinn", so Russell. Schon heute wüssten die KI-Entwickler im Silicon Valley nicht mehr, welche Ziele ihre Supersysteme hätten und wie sie planten, diese zu erreichen. "Wir wissen nicht, was sie 'denken'. Wir verstehen nicht einmal ihre genaue Funktionsweise", sagte er dem Magazin. Sobald es Systeme gebe, die im Wesentlichen fähiger seien als Menschen, "haben wir Menschen kein Mitspracherecht mehr".
Natürlich werde die Menschheit, sobald sie das Gefühl habe, die Kontrolle zu verlieren, versuchen, die KI abzuschalten. "Die Frage ist, ob die Maschinen uns noch lassen. Wenn sie mitbekommen, dass wir sie abschalten wollen, haben sie allen Grund, das zu verhindern. Sie müssen uns auslöschen. Wenn wir also weiter Superintelligenz entwickeln, ohne sie an unsere Interessen anzupassen, ohne sie zu verstehen, ohne Sicherheitsgarantien, dann halte ich es für sehr wahrscheinlich, dass wir die Kontrolle verlieren."
Laut Russell, der an der Eliteuniversität Berkeley in Kalifornien forscht und zu den renommiertesten KI-Experten der Welt zählt, dürften die Computer irgendwann einen Konflikt mit der Menschheit antizipieren. Sobald das geschehe, "werden sie sich in vielerlei Hinsicht reproduzieren, millionenfach kopieren". Allein der Zugriff aufs Internet gebe ihnen mehr Einfluss auf menschliches Verhalten, als Adolf Hitler je hatte. "Hitler konnte nur zu einem Zeitpunkt in ein einziges Mikrofon sprechen, nur eine Botschaft gleichzeitig senden. Er hat dennoch die Massen aufgehetzt. Diese Systeme könnten das Internet fluten, fünf Milliarden Gespräche gleichzeitig führen, fünf Milliarden einzelne Menschen beeinflussen. Was Hitler getan hat, könnte die KI schneller, besser, effektiver."
Über Millionen Roboter, die weltweit schon heute im Einsatz seien, bekomme eine solche Super-KI zudem Zugriff auf die physische Welt. Sie könne in teilautonome Waffensysteme eindringen oder Biolabore kontrollieren, so Russell. Noch sei es nicht zu spät, das zu verhindern. Dafür brauche es aber schnellstmöglich eine gesetzliche Regulierung der Technologie. Zudem eine KI, deren einziges Ziel es sei, "menschliche Interessen zu fördern". Derlei zu etablieren, "könnte leicht ein Jahrzehnt dauern", so Russell. Deshalb brauche es ein Entwicklungs-Moratorium der Technologie. Man drücke "gewissermaßen auf 'Pause' und arbeite an der Sicherheit". Dies sei laut Russell die einzige Chance für die Menschheit, ihre Existenz zu sichern. "Langfristig gibt es nur drei Zukünfte: sichere KI, keine KI oder keine Menschen."
© 2026 dts Nachrichtenagentur
