- Gedanken zur Woche
Babel und Bubble
«Die von Gott geschaffene grossartige Menschheit steht heute vor einer entscheidenden Wahl: Entweder sie errichtet einen neuen Turm zu Babel oder sie erbaut die Stadt, in der Gott und die Menschheit gemeinsam wohnen.» So beginnt die Enzyklika «Magnifica Humanitas» von Papst Leo XIV. über die Menschlichkeit im Zeitalter der künstlichen Intelligenz. Damit knüpft Leo an sein Namensvorbild Leo XIII. an, der im Zuge der industriellen Revolution mit seiner Enzyklika «Rerum Novarum» die Ausbeutung der Arbeiter anprangerte.
Papst Leo beginnt seine Enzyklika mit zwei Bildern: Die eine ist die Geschichte des Turmbaus zu Babel aus dem alten Testament. Die Menschheit, die damals noch eine Sprache sprach, beschloss, einen Turm zu bauen, der bis in den Himmel reichte. Gott verhinderte das Vorhaben, indem er die Menschen mit verschiedenen Sprachen versah und auf der Welt verstreute. Und weil sich die Menschen nicht mehr verstanden, wurde der Turm nicht mehr fertig gebaut und zerfiel schliesslich. Babel ist das Symbol des menschlichen Grössenwahns: «Babel offenbart somit die Grenzen eines jeden noch so grandios anmutenden Gebildes, das aus der Verabsolutierung des Menschen und aus seiner anmassenden Autarkie entsteht, dass die Würde der Menschen der Effizienz opfert und danach strebt, den Himmel ohne den Segen Gottes zu erreichen.»
Das Gegenbeispiel dazu ist der Wiederaufbau von Jerusalem nach dem babylonischen Exil. Nehemia, ein Jude im Dienst des persischen Königs, kehrt in seine zerstörte Heimatstadt zurück. Er schreibt keine Lösungen vor, sondern versammelt die Familien, weist jeder von ihnen einen Mauerabschnitt zu, koordiniert ihre Bemühungen und hört ihre Sorgen an: «Die Erzählung zeigt, wie die Stadt nicht durch die Initiative eines Einzelnen wiedergeboren wird, sondern durch die gemeinsame Verantwortung des ganzen Volkes (…).»
Im Zentrum der Enzyklika ist die Frage des Nutzens der Technologie, beziehungsweise die Frage, wem und wozu sie dienen soll. Dabei geht es nicht darum, die Technologie zu verteufeln, sondern sie richtig einzusetzen, als Mittel, aber nicht als Zweck. Dabei muss die soziale Gerechtigkeit als Leitfaden dienen: «Eine gerechte soziale Ordnung im digitalen Zeitalter ist eine, die allen einen gleichberechtigten Zugang zu Chancen garantiert, die Jüngsten und die Fragilsten schützt, Hass und Desinformation bekämpft und die Nutzung von Daten und Technologien einer öffentlichen Kontrolle unterwirft, damit nicht der blosse Profit zum Massstab wird, sondern die Würde eines jeden Menschens und das Wohl der Völker.» Ein entscheidender Prüfstein dafür ist auch die Frage der Migrant:innen und wie mit ihnen umgegangen wird.
Die Würde des Menschen – und das ist ein weiterer zentraler Punkt – ist dabei nicht etwas, was ein Mensch sich verdienen oder aneignen muss, sie ist ihm als Mensch gegeben und muss immer geachtet werden. Die heutige Zeit sehe vieles, was als «Begrenztheit» erscheint als Mangel, wie Krankheit, Alter, Leiden und Verletzlichkeit, als etwas, was es zu beheben und zu optimieren gilt. Dabei ist es gerade die Begrenztheit, die den Menschen ausmacht. Denn sie führen dazu, dass wir uns öffnen und Beziehungen eingehen: «Wer liebt und etwas ersehnt, kann Prüfungen und Leiden nämlich nicht vermeiden. Und deshalb bewahren wir Lehren in uns, die sich über die Jahre wie Narben einprägen, eine Erinnerung an den Weg, den wir zwischen Freiheit und Niederlagen, zwischen Träumen und Enttäuschungen zurückgelegt haben.»
Das Problem ist also nicht die Technologie, sondern die Technokraten, die menschliche Schwächen mit Technologie ausmerzen wollen. Und eine neue Form von Kolonialismus, in der nicht sichtbaren, aber notwendigen Arbeit, die oft nicht dort entsteht, wo die Technologie dann angewendet wird. Dort, wo etwa Rohstoffe abgebaut oder Smartphones produziert werden oder Klickarbeiter:innen Daten bearbeiten und Inhalte moderieren, oft mit grosser psychischer Belastung verbunden. Dazu kommt die Ausbeutung aller unserer Daten und unserer persönlichen Informationen und unserer innersten Sehnsüchte und Ängste.
Die Ironie will es, dass ich, gleichzeitig zur Lektüre dieser Enzyklika, an einem Kongress der Telekommunikationsanbieter war. Und dieser war – wie viele solcher Kongresse – voller Referent:innen, die erklärten, welch wunderbares Potenzial in der künstlichen Intelligenz steckt, wie unsere Arbeit durch sie vereinfacht wird, weil Agenten künftig unsere E-Mails bearbeiten und unsere Termine koordinieren werden. Dafür braucht es selbstverständlich enorme Rechenkapazitäten, für die es enorme Energiemengen braucht, die man nun mal einfach produzieren muss. Und es daher auch unbedingt neue AKW braucht. Derweil die Temperaturen draussen alle Rekorde sprengten und die Klimaanlage im Kongresszentrum an ihre Grenzen stiess.
Vor rund einer Woche zeigte die Börse einige Zeichen, dass der grosse AI-Boom vielleicht langsam zu einem Ende kommt. Die Aktien verschiedener AI-Firmen sanken. Dass es bei der künstlichen Intelligenz gewisse Tendenzen zur Blase oder zum Hype gibt, ist eigentlich unbestritten. Was hingegen unklar ist, ob die KI-Firmen überhaupt ein nachhaltiges Geschäftsmodell haben. Gewisse Stimmen wie beispielsweise der Techjournalist Ed Zitron oder der Neurowissenschaftler Gary Marcus warnen seit Jahren vor einer Blase. Denn die Techfirmen verbraten weit mehr Geld als sie einnehmen. Und gleichzeitig ist der ökonomische Nutzen vielleicht kleiner als man denkt. Denn – wie einige Studien zeigen – ist der Anstieg der Produktivität durch KI bescheiden bis nicht vorhanden. Gleichzeitig sind die Kosten für die KI sehr gross – diese wurden bisher subventioniert, um die Nachfrage zu steigern. Diese Rechnung geht – siehe Uber – nur auf, wenn man tatsächlich eine Monopolstellung erreichen und dann die Tarife erhöhen kann. Und die Frage ist, ob die Konsument:innen und Firmen die realen Preise wirklich zahlen würden.
Large Language Models (LLM) – also wie beispielsweise ChatGPT oder Claude – werden aber im Moment häufig für Dinge eingesetzt, die sie gar nicht so gut können. LLMs können sehr gut Code schreiben und sind stark bei mathematischen Funktionen. Aber eigentlich nicht sonderlich gut darin, Informationen zu besorgen oder Texte zu schreiben, weil sie dafür zu wenig verlässlich sind. Nun mag man heute ChatGPT oder Claude gerne mal dazu nutzen, sich einen Text zusammenzufassen oder sich Restauranttipps zu geben. Aber ist das auch wirklich angesichts des Ressourcenverbrauchs sinnvoll? Und sind wir bereit, dafür zu bezahlen? Vor allem, wenn die Ergebnisse nur beschränkt überzeugen.
Sollte es zum Platzen einer Blase kommen, bedeutet das nicht das Ende der Künstlichen Intelligenz. Aber vielleicht wird sie sich anders entwickeln als diejenige von der heute in Kongresssälen geschwärmt wird. Wichtig dabei bleibt so oder so, dass wir uns unsere Menschlichkeit bewahren.