Globale digitale Ordnung – eine bedrohliche Hoffnung

Yuval Noah Harari und Arno Bammé halten einen Einbezug der kaum kontrollierbaren neuen Technologien für notwendig. Wenn endlich eine «Computerpolitik für Bürger des 21. Jahrhunderts» komme, meint der eine. Wie die aussehen oder gar durchgesetzt werden könnte, bleibt unklar. Der andere betont, auch die digital weiter rasant vorangetriebene Wachstumsökonomie müsse «zivilisiert» werden. Natürlich! Aber wie?

«Weltbestseller» – trotzdem lesenswert

«Weltbestseller» – im Fall von Harari war das für den Verlag bereits bei der Ankündigung klar. Harari sei einer der einflussreichsten Intellektuellen unserer Zeit, seine Werke seien «globale Sachbuch-Phänomene». Sie wurden in 65 Sprachen übersetzt, in Millionenauflagen gedruckt. Zu seinen prominentesten Bewunderern zählten Barack Obama und Bill Gates. Nun werde «weltweit zeitgleich» die aktuelle Analyse unserer «existenziellen Krise» im beginnenden «Zeitalter der künstlichen Intelligenz» erscheinen: «Nexus». Ein mir nicht geläufiges Fremdwort.

Eigentlich ist mir auch KI fremd. Also höchste Zeit, mich damit intensiver zu befassen. Alles andere als vorurteilsfrei begann ich zu lesen. «Wir nennen unsere Spezies Homo sapiens – der weise Mensch. Es ist jedoch fraglich, welche Ehre wir diesem Namen machen.» Ein starker Einstieg. Und wer will der im Prolog formulierten «zentralen These», die Menschheit nutze ihre zunehmend gewaltigere Macht unklug, widersprechen? Was der Historiker an Beispielen zusammenpuzzelt, ist spannend, überrascht oft. Wie sich unsere Vorfahren untereinander zu verständigen begannen, Informationen weitergaben, wie Netzwerke entstanden, wie sie funktionierten und wuchsen. Warentausch wurde zu Handel. Bürokratien, konkurrierende Glaubensgemeinschaften gediehen. Dies nicht trocken doziert, sondern als buntes Mosaik mit Querbezügen zur Gegenwart präsentiert. Zudem ist der erste Teil so brillant geschrieben, dass die Frage, ob ich all das wirklich wissen will und muss, bald entfiel.

Auch aus seiner Geschichte gelernt

Die enorme Kraft von Erzählungen erscheint bei Harari als ein wichtiges Element zur Erklärung der Welt. Nationen entstünden aus «Träumereien, Liedern, Fantasien», zitiert er etwa Theodor Herzl, den Begründer der zionistischen Bewegung, und er weicht als in Jerusalem lehrender Geschichtsprofessor der Frage nicht aus, was die Staatsgründung dann im Nahen Osten bewirkte. Bei den Namen von Autokraten, die demokratisch zu Macht kamen und diese nun nutzen, um Demokratie auszuhöhlen, finden sich Putin wie Netanjahu. Ein knapper Einblick in die Geschichte seiner eigenen Familie und andere persönliche Anmerkungen des Autors halfen, die mir allzu laute Verlagswerbung zu vergessen.

Politisch ist Harari schwer einzuordnen. Er argumentiert differenziert, unideologisch. «Was ist die Position der Rechten in Bezug auf KI und was die der Linken?» Konservativ oder progressiv lasse sich hier kaum unterscheiden und weltweit hätten sich in den politischen Parteien nur wenige Gedanken über diese Fragen gemacht. Was offenbar auch für ihn selbst zutrifft. Doch als er in der Folge einschlägiger Passagen in einem seiner früheren Bücher «plötzlich im Ruf eines KI-Experten» stand, hätten sich überall Türen zu den Büros von Institutionen und Unternehmen geöffnet, was ihm «einen faszinierenden, privilegierten Einblick in die komplexe Dynamik der KI-Revolution» erlaubte. In vielen öffentlich und privat geführten Gesprächen – «insbesondere über die Gefahren, die sie birgt» – sei ihm deren Dimension und die Dringlichkeit bewusster geworden. Was noch 2016 wie ferne Zukunft wirkte, bekam Notfallcharakter. Auch diese Empfindung will er vermitteln.

Fortschritte mit negativen Folgen

In der zweiten Hälfte steht denn auch «die aktuelle Informationsrevolution», das riesige «anorganische Netzwerk» der Computer, ganz im Zentrum. Ja, es geht um Computer. Harari zieht den heute «fast archaisch klingenden Begriff» anderen, modischeren vor. Er meint damit den «gesamten Komplex aus Software und Hardware», der sich da in einer physischen Form manifestiere. KI oder Algorithmen sind ja nur Teile einer Maschinerie, deren Betrieb notabene enorme Mengen an Strom, Wasser, Land, raren Mineralien und weiteren Ressourcen verschlingt. Nur schon die Rechenzentren beanspruchten 2023 zwischen 1 und 1,5 Prozent des weltweiten Energieverbrauchs. Und weil das Netzwerk den ganzen Planeten beherrscht, spricht er vom Computernetzwerk im Singular.

Bringt es uns den erwarteten Fortschritt oder machen negative Folgen diesen zunichte? Entscheidend für den gesellschaftlichen Nutzen und die Sicherheit von Netzwerken aller Art war schon immer, ob sie funktionierende «Selbstkorrekturmechanismen» hatten. Wo diese etwa durch totalitäre Regime beschnitten wurden, brachen ganze Systeme trotz oder vielleicht wegen der vermeintlich perfekten Überwachung zusammen. Wiederholt taucht beispielhaft die Sowjetunion auf. Aber auch im Silicon Valley hätten anfänglich betont freiheitlich agierende Unternehmer mit ihren Social-Media-Plattformen nicht wie postuliert der Suche nach Wahrheit gedient, sondern eher bessere Informationsquellen verdrängt. Ziel war nicht, «die Welt mit Fake News und Empörung zu überschwemmen». Das war eine Folge der Vorgabe, die Nutzerbindung zu maximieren. Mit verheerenden Konsequenzen für viele von der Hetze betroffene Menschen sowie – immer klarer erkennbar – für die Demokratie.

Eine unheimliche Beschleunigung

Dies ist eine inzwischen breit diskutierte Dynamik. Anderes klingt zuweilen wie Science-Fiction mit einem Hauch von Verschwörung. Doch mit Trump plus Musk (oder umgekehrt) wurden die Horrorvisionen schon wieder ein Stück realer. Der von Harari mit Blick auf die Weltlage angedeuteten Chance und Hoffnung, dass eine vielfältige globale Gemeinschaft effektiver zusammenarbeiten, mit regulierten Technologien sogar die ökologische Krise bewältigen könnte, stellt er im Buch ein Zitat gegenüber: «Wir lehnen den Globalismus ab und huldigen dem Patriotismus.» Das habe Präsident Trump anno 2020 als sein Leitmotiv proklamiert. Dass und wie dieser nun erneut an die Macht kommen würde, konnte Harari höchstens ahnen. «Der Mensch hat die Wahl», ist der nächste Zwischentitel.

Dass der einordnende Historiker bei den KI-Kapiteln zum verunsicherten Beobachter wurde, schlägt sich im Schreibstil nieder. Nichts von der Leichtigkeit seiner Blicke in die Geschichte. Analysen wie Warnungen bleiben unpräzis. Argumentationen wiederholen sich. Trotzdem bleibt seine Befürchtung, dass sich künftig Computer mit Computern verbünden, eigene Interessen verfolgen, sogar Emotionen entwickeln könnten, wolkig. Doch gibt es nicht laufend Berichte über freundliche Roboter in Altersheimen? Wenn es um die Fähigkeit geht, «Emotionen richtig zu erkennen und optimal auf sie zu reagieren», könnten Computer den Menschen «in Sachen emotionaler Intelligenz» übertreffen, nimmt Harari an. Parallel dazu werden für Kriegseinsätze weitgehend autonom operierende Drohnen entwickelt. Die zum Helfen oder zum Töten programmierten Maschinen werden selbstständiger. Computerentwickler stellen nicht nur weitere Werkzeuge her, sie setzen «neue Arten von unabhängigen Akteuren in die Welt», mahnt der Autor. Mich haben seine Hinweise auf die unheimliche Beschleunigung in diesem Bereich fast mehr überzeugt als einzelne Exempel. Zu viel eben noch Unglaubliches ist schon alltäglich. Wir sollten die digitale Dynamik nicht unterschätzen!

In grossen Strukturen verloren

Arno Bammé sucht auf andere Art nach aus Vergangenem gewonnenen Lehren für die Gestaltung der Zukunft. In einem «Literaturbericht» mit primär soziologischem Akzent offeriert er «Theorien und Texte im Vergleich». Dabei bediene er sich «der Erzählstruktur des Dialogprinzips». Das ist nicht immer leicht zu lesen, aber bleibt meist verständlich. Basis der Betrachtung sind Überlegungen von Ferdinand Tönnies, der Nationalökonom und Philosoph war, dank seinem 1887 erschienenen Hauptwerk zu «Gemeinschaft und Gesellschaft» auch als Begründer der Soziologie in Deutschland gilt. Er befand, für eine gemeinschaftliche Beziehung sei «leibliche Nähe» entscheidend, in die Gesellschaft gehe man «wie in die Fremde». Im eben weltweit aufkommenden Wunschbild des Sozialismus sah er eine Version der individualistischen Vergesellschaftung mit nur punktuellen Kontakten, verbunden durch die «künstliche Institution» des Staates.

Später gab es Studien diverser Disziplinen, die in der «Kleingruppenzentrierung» des Menschen den Hauptgrund erkannten, dass grössere Strukturen zu schwerer lösbaren Problemen führen. Denn das menschliche Gehirn – es wäre auch «mentale Hardware» zu nennen – habe sich seit seiner frühen evolutionären Entwicklung kaum verändert. Das kann in Krisen gefährlich werden. Denn bei einer Überforderung durch die Menge und Komplexität von Informationen oder durch ständigen Wandel werden selbst demokratisch strukturierte Gesellschaften anfällig für Leitfiguren, die einfach(e) Normen dekretieren und das Unbehagen skrupellos schüren. Wären da «richtig programmierte» Maschinen, die «ohne Moral und Empathie» fehlerfrei funktionieren, nicht besser?

Durchwegs differenziertes Disputieren

So zieht sich ein differenziertes Disputieren durch Absätze wie «Wort und Werkzeug», «Stadt und Land» oder – abstrakter – «Theorie und Empirie». Teils bekannte Zeugen und kaum Zeuginnen sind zitiert, fast wieder vergessene sowie brandneue Schriften, wie «Was ist Bedeutung?» von Yongjun Cai, der nach dem Philosophiestudium in Wuhan mit einer kommunikationstheoretischen Arbeit in Heidelberg dissertierte. Er kommt ausführlich zu Wort, wurde aber wahrscheinlich erst im letzten Moment einbezogen. Jedenfalls fehlt seine Publikation bei den Literaturangaben. Für über 100 Franken wären die gut 300 Seiten zu haben. Da kommt eine gute Zusammenfassung gelegen.

Und im Epilog, wo die nachgerade allgegenwärtige KI als wohl unverzichtbares Element der globalen Neuordnung taxiert wird, taucht auch Günther Anders auf, der vor einem halben Jahrhundert meine technikkritische Haltung grundierte. Bammé würdigt dessen «grosse Monographie» über «Die Antiquiertheit des Menschen» im damals ausgerufenen Atomzeitalter. Hiroshima war für Anders das Symbol einer tödlichen Dynamik. «Da wir schlechter rechnen als unser Apparat, sind wir unzurechnungsfähig.» Wer aber seine Verantwortung «auf ein Gerät transformiert», gibt sie ab. Verantwortungslos? Eine beschämende Selbstdegradierung.

Teil der globalen Transformation sein?

Doch was soll der Mensch als Kleingruppenwesen in der gigantischen Maschinerie tun? Zurück in die Steinzeit, wo sich nach vielen Einschätzungen frei wandernde Wesen bei wenig Arbeitszeit eines relativen Wohlstands erfreuten, können wir nicht. Der rasante Wandel, die Komplexität, die Katastrophen der heutigen Welt überfordern uns. Könnte künstliche Intelligenz sie für uns ordnen? Eine bedrohliche Hoffnung. Sie klingt auch bei Bammé an. Auf dem hinteren Buchdeckel sind seine Kernaussagen nochmals knapp umrissen: Wir stünden am Beginn einer zweiten Grossen Transformation, mit der auch «Fehlentwicklungen, die ihre Ursache in der ersten haben», korrigiert werden müssten. Es gelte, den Stoffwechselprozess des Menschen mit der Natur sozial- und umweltverträglich umzugestalten. Dazu bedürfe es eines «mit Machtmonopol ausgestatteten Souveräns, möglichst demokratisch legitimiert», der Weltinnenpolitik betreiben kann. Ein geregeltes Zusammenspiel «zwischen natürlich-organischer und künstlich-mechanischer Intelligenz» wäre dem dienlich. Harari erwähnt in seinem letzten Kapitel die Wahl zwischen einem globalen Imperium und globaler Spaltung als schlechte Alternative, deutet dann mögliche Mittelwege an. Aber das seien nur «ambitionierte Spekulationen».

Bei beiden Lektüren bleibt also das altbekannte Abwägen von Chancen und Risiken neuer Technologien offen. Derweil treiben die tatsächlich zumeist männlichen Macher deren Verbreitung weiter. Unwille, Unsicherheit, auch Überforderung blockieren eine politische Regulierung. Bringt der aktuelle KI-Hype diesen Prozess voran? Persönlich fühle ich mich bestärkt: Alexa, Siri? ChatGPT? Brauche ich nicht. Als kleine individuelle Konsequenz bleibe ich beim Leben ohne Handy. Ein paar Jährchen dürfte dies noch möglich sein.

Yuval Noah Harari: Nexus. Eine kurze Geschichte der Informationsnetzwerke von der Steinzeit bis zur künstlichen Intelligenz. Penguin, München 2024, 655 Seiten, ab ca. CHF 29.–

Arno Bammé: Sprache – Technik – Ökonomie. Von der «analogen» Gemeinschaft zur «digitalen» Gesellschaft. Metropolis-Verlag, Marburg 2024, 360 Seiten, ab ca. CHF 55.–

Dieser Text erscheint auch in der P.S.-Winter-Buchbeilage. Dort mit weiteren Rezensionen zum Thema.