Bringen Klimawandel und KI den Weltuntergang?

Das sind schon mal keine guten Voraussetzungen für einen entspannten Flug. Zu guter Letzt erfahren Sie noch, dass jeder der Ingenieure ein langes Vorstrafenregister hat – zum Beispiel wegen der Verbreitung von Lügen vor dem US-Kongress, räuberischer Geschäftspraktiken oder der Veröffentlichung von Fake News.

Mensch versus Superintelligenz

Würden Sie an Bord dieses Flugzeugs gehen? Nein? Dann heisst es jetzt ganz stark sein: Sie sitzen schon drin. Wir sprechen nämlich nicht von Flugzeugen, sondern von leistungsstarker künstlicher Intelligenz, die Unternehmen wie OpenAI, Google, Microsoft und Meta auf den Markt bringen. Die Virtuosität solcher Programme wird unser Leben und unsere Arbeit erheblich erleichtern – aber zugleich unsere Privatsphäre, unsere Jobs und womöglich auch unser Leben gefährden.

Google-Chef Sundar Pichai behauptet, die generative KI habe eine technologische und kulturelle Revolution ausgelöst, die tiefgreifender sei als die Entwicklung von Elektrizität oder Feuer. Gegner der KI befürchten, sie werde uns bis 2030 rund 300 Millionen Arbeitsplätze kosten. Hingerissen und fasziniert sind wir dennoch von den neuen Möglichkeiten. ChatGPT – ein sogenanntes Large Language Model (LLM), dessen Sprachgewandtheit geradezu magisch ist – hatte nur fünf Tage nach seinem Start im November 2022 bereits eine Million Nutzer. Facebook brauchte für die gleiche Zahl einst etwa zwei Jahre, bei YouTube waren es eineinhalb Jahre.

Vor zehn Jahren schrieb ich ein Buch mit dem Titel «Our Final Invention» («Unsere letzte Erfindung»). Wenn ich darin blättere, stelle ich fest, dass sich fast jedes Wort auf das Dilemma bezieht, in dem wir uns heute befinden. Das ist eine schlechte Nachricht, denn «Our Final Invention» war als Warnung gedacht. Und selbst ich dachte nicht, dass es so schnell gehen würde. Was ich vorausgesehen habe, ist die exponenzielle Beschleunigung der digitalen Technologien. Wir werden immer besser, bis wir einen Wendepunkt erreicht haben, der als «Intelligenzexplosion» bezeichnet wird.

Gemeint ist damit jener Moment, ab dem die künstliche Intelligenz ihre eigene Intelligenz verbessern kann, bis sie tausend- oder millionenfach grösser ist als jene der Menschen. Ich schrieb auch, dass wir eine geringe Chance haben werden, unsere erste und wahrscheinlich kurze Begegnung mit der Superintelligenz zu überleben, weil wir keine Ahnung haben, wie wir mit weitaus intelligenteren Wesen koexistieren können. Einer der «Paten» der KI, Geoffrey Hinton, sagte einmal: «Ich bin deshalb nicht so optimistisch, weil ich keine Beispiele kenne, dass intelligentere Dinge von weniger intelligenten Dingen kontrolliert wurden.»

Wie schlimm ist es? In einer Umfrage aus dem Jahr 2022 gab fast die Hälfte der befragten führenden Forscher auf dem Gebiet des maschinellen Lernens an, dass sie die Wahrscheinlichkeit, mit ihrer Arbeit zur Auslöschung der Menschheit beizutragen, auf mindestens eins zu zehn einschätzten. Laut einer auf dem Yale CEO Summit durchgeführten Umfrage glauben 42  Prozent der Firmenchefs, dass KI das Potenzial habe, die Menschheit innerhalb der nächsten fünf bis zehn Jahre zu vernichten. Kürzlich haben 1100 KI-Experten und tausende andere einen offenen Brief des Future of Life Institute unterzeichnet, in dem ein sechsmonatiges Moratorium für die Ausbildung grosser KI-Systeme gefordert wird, die leistungsfähiger sind als die derzeit leistungsfähigsten. Die Risiken seien einfach zu hoch, heisst es in dem Brief. Es gibt zu viele Unbekannte.

Wie kann man rechtfertigen, jeden Tag zur Arbeit zu gehen, um Algorithmen zu entwickeln, die den Untergang des Planeten bedeuten könnten? Im Mai 2023 beschloss die KI-Koryphäe Geoffrey Hinton, dass er das nicht mehr kann. Er trat von seinem Posten bei Google zurück, um frei über die Gefahren der künstlichen Intelligenz sprechen zu können: «Es ist denkbar, dass die Menschheit nur eine vorübergehende
Phase in der Evolution der Intelligenz ist», sagt er unter anderem.

Timnit Gebru, eine KI-Ethikerin (ein Beruf, den es vor zehn Jahren noch nicht gab), wurde von Google gefeuert, weil sie darauf hingewiesen hatte, dass LLMs möglicherweise Stereotype und Vorurteile verbreiten würden. Gebrus Nachfolger wurde ebenfalls entlassen. Vermutlich mag Google Ethiker nur, solange sie ihre Arbeit nicht tun.

Gebru hält das existenzielle Risiko für die Menschheit für einen futuristischen Nebenschauplatz, verglichen mit den Problemen, die generative KI jetzt schon mit sich bringt: Im Mai 2023 stellte etwa ein von KI geschaffenes Bild eine Explosion im Pentagon dar. Es wirkte so echt, dass die Aktienkurse kurzzeitig einbrachen. Russland postete ein Video, in dem der ukrainische Präsident Selenskyi kapituliert. Deep Fakes könnten einen Atomkrieg auslösen, indem sie überzeugend einen nuklearen Angriff simulieren.

Der vom Stanford Institute for Human-Centered Artificial Intelligence 2023 veröffentlichte «AI Index»-Report ergab, dass 36 Prozent der KI-Forscher glauben, generative KI könne zu einer nuklearen Katastrophe führen. Wir dürfen uns deshalb nicht den Luxus leisten, kurz- und langfristige Probleme nacheinander zu lösen, sondern müssen alle gleichzeitig angehen. Um auf unsere Analogie zurückzukommen: Wenn Ihr
Flugzeug brennt, können Sie die Tatsache nicht ignorieren, dass es auf einen Berg zufliegt.

von David Spratt

Schon das Tempo der Klimaveränderung im Jahr 2023 schockierte die Wissenschaft: «Überraschend. Verblüffend. Erschütternd. Unerhört. Beunruhigend. Befremdlich. Schockierend. Unglaublich», sagte etwa der Klimatologe Ed Hawkins, als der September den bisherigen Monatsrekord um enorme 0,5 Grad Celsius übertroffen hatte. 2023 war das erste Jahr, in dem es 1,5 Grad Celsius wärmer war als im Referenzzeitraum 1850 bis 1900. Und 2024 war es noch einmal wärmer.

Plausibles Worst-Case-Szenario

Um die Erderwärmung auf zwei Grad Celsius zu begrenzen, müssten die Emissionen zwischen 2020 und 2030 halbiert werden, doch stattdessen erreichten sowohl die Treibhausgasemissionen als auch der Kohleverbrauch neue Rekorde. Die grössten nationalen Produzenten fossiler Brennstoffe planen eine weitere Ausweitung der Produktion, und die aktuellen Pläne von Regierungen in der ganzen Welt werden wahrscheinlich dazu führen, dass die Emissionen im Jahr 2050 fast so hoch sein werden wie heute.

Die Welt steuert also auf eine Erwärmung um drei Grad Celsius zu; vielleicht sogar noch viel mehr, weil die derzeitigen Klimamodelle nicht alle verstärkenden Rückkopplungen auf Systemebene angemessen berücksichtigen. Die britische Denkfabrik Chatham House geht von einem «plausiblen Worst- Case-Szenario» von 3,5 Grad Celsius oder mehr aus.

UN-Generalsekretär António Guterres sagt, jetzt sei «das Zeitalter des globalen Siedens» angebrochen. «Wenn wir so weitermachen wie bisher, kann ich mir nicht vorstellen, dass diese Zivilisation bis zum Ende des Jahrhunderts überlebt», meint der Klimatologe Tim Lenton. Wissenschaftler der University of New South Wales warnen, dass «bei einem Gleichgewichtsklima unter den derzeitigen Kohlendioxidkonzentrationen der Meeresspiegel um 5 bis 25 Meter höher liegen würde». Laut Chatham House wird der weltweite Nahrungsmittelbedarf bis 2050 um 50 Prozent steigen, die Ernteerträge könnten jedoch um 30 Prozent sinken.

Existenzielles Krisenmanagement

Die Macht der fossilen Brennstoffindustrie ist furchterregend, wie auf der COP28 in Dubai deutlich wurde. Aber auch der Intergovernmental Panel on Climate Change (IPCC/«Weltklimarat») hat eine Rolle gespielt, indem er «politikrelevante» Wissenschaft präsentierte, die oft zurückhaltend war und sich auf die falschen Themen konzentrierte. Zum Beispiel lieferte der IPCC riesige Mengen von Information über das Leben auf einer um 1,5 bis 2 Grad wärmeren Welt, aber fast nichts über eine um 3 oder 4 Grad heissere Welt, auf die wir uns tatsächlich zubewegen.

Im Angesicht des drohenden Zusammenbruchs braucht die Welt eine globale Mobilisierung – eine Notfallreaktion –, bei der die Emissionen möglichst schnell auf null gesenkt und weitere Massnahmen zum Kohlendioxidabbau gefördert werden. Ausserdem müssen wir Wege finden, den Planeten zu kühlen und lebenswichtige Systeme kurzfristig zu schützen, um irreversible Veränderungen auf Systemebene und das
«Treibhaus»-Szenario zu vermeiden.

Dies erfordert eine mutige politische Führung, denn die Märkte haben immer wieder bewiesen, dass sie nicht in der Lage sind, die Risiken einzuschätzen und einzupreisen; mit existenziellen Bedrohungen können sie offenbar nicht umgehen. Die Herausforderung für politische Entscheidungsträger besteht nun darin, sich auf Disruptionen einzulassen und ein existenzielles Risikomanagement zu betreiben.