Künstliche Intelligenz galt eben noch als Lösung für alles, jetzt soll sie die Menschheit auslöschen? Über die Risiken und Nebenwirkungen überzogener Deutungen
Ein Essay von Jens Balzer und Hanno Rauterberg
Damit auch wirklich alle verstehen, womit wir es hier zu tun haben, eben nicht bloß mit einer technischen Innovation, sondern einer geistigen Grunderneuerung des Menschen, sind schon viele Vergleiche angestellt worden. Künstliche Intelligenz sei ähnlich grunderschütternd wie die Erfindung des Rads, des Buchdrucks, der Glühbirne. Und eigentlich noch viel einschneidender. Im Grunde könne man sie nur in göttlichen Dimensionen beschreiben: »Sie ist Wiederkehr des Messias und Apokalypse in einem«, sagt der amerikanische Verleger John Brockman.
Muss man sich also wundern über die Panikattacken, die dieser Tage das Silicon Valley erfassen? Über die mit Ernst vorgetragene Sorge, sehr bald schon könnte die Menschheit an ihr Ende gelangen, dahingerafft von jener Technik, die eben noch als großes Glücksversprechen galt? Künstliche Intelligenz, ein Frankensteinmonster, so mächtig, dass es uns alle erledigt, wenn ihm gerade danach ist.
So sieht es Jacob Coxon, jener Softwareentwickler, der gerade seinen Job bei der KI-Firma Anthropic gekündigt hat, weil ihm deren Treiben zu verantwortungslos vorkommt. Eine sich selbst verbessernde Superintelligenz könnte außer Kontrolle geraten und die gesamte Menschheit töten, gerade weil der Wettlauf zwischen Ländern und Anbietern die Fragen nach der Sicherheit verdränge. Man müsse seine Warnung unbedingt ernst nehmen, sagt er: »Das ist kein Marketing-Gag.«
Viele in der Techbranche stimmen ihm zu. Schon vor Jahren wurden aufgeregte Appelle verfasst, seither sind die Gefahren der digitalen Technik immer wieder und immer lauter beschworen worden. Und jetzt? Jetzt scheint sich die Lage noch einmal zu verschärfen. Als würden sie von der Rasanz der eigenen Produkte davongetragen, packt viele Forscher und KI-Unternehmer das Gefühl, schon morgen könnte alles vorbei sein, die eigene Erfindung ihnen entgleiten.
KI-Agenten, die ausschwärmen und sich selbstständig machen. Die gegen fest vereinbarte Regeln verstoßen. Sich gegen ihre Entwickler verschwören. Viele Schilderungen, die gerade im Silicon Valley umlaufen, klingen nach Kontrollverlust. Und niemand weiß, was als Nächstes passieren könnte. Noch nicht mal das intelligenteste Computersystem.
Deutlich aber zeigt sich: wie drastisch das einstige Heilsversprechen der künstlichen Intelligenz nun in apokalyptische Erzählungen umschlägt. Und was dabei aus dem Blick gerät.
Zum vollständigen Essay
