Sprachlupe – Von «Denckring» bis KI: Wer denkt denn da?

Was hat er sich dabei wohl gedacht? «Denckring» nannte der deutsche Barockgelehrte Georg Friedrich Harsdörffer die Papierscheibe mit fünf konzentrischen Kreisen, die er 1651 in den zweiten der drei Bände seiner «Mathematischen und Philosophischen Erquickstunden» aufnahm (S. 517), unter der Überschrift «Die gantze Teutsche Sprache auf einem Blættlein weisen». Er fügte eine genaue Anweisung bei, wie man die Scheiben ausschneiden und drehbar montieren solle, um Wörter zu bilden aus den «48 Vorsilben, 50 Anfangsbuchstab[en] und Reimbuchstaben, 12 Mittelbuchstaben, 120 Endbuchstaben, 24 Nachsÿlben». Wer will, kann in einer Online-Simulation mit der Auswahl spielen: Es warten rund 100 Millionen mögliche Kombinationen.

Der Ring erfordert nicht nur mechanisches Tun, sondern auch eigenes «Dencken». Denn Harsdörffer beansprucht für sein Werk – es entsprang einer damals beliebten Gattung – «unfehl­bare Richtigkeit  / ein vollstændiges Teutsches Wortbuch zu verfassen / und beharren wir in der Meinung  / dass alle solche zusammen gesetzten Wœrter / welche ihre Deutung wᵫrcken / für gut Teutsch zulæssig / sonderlich in den Gedichten / ob sie gleich sonsten nicht gebræuchlich»  (S. 518). Ob die zusammengefügten Wörter «ihre Deutung wᵫrcken», also einen Sinn ergeben, muss man freilich selber beurteilen, da versagt des Ringes «Dencken». Der Autor empfiehlt ihn denn auch eher als Hilfsmittel, namentlich fürs Reimen.

Vollmundige Ansprüche, damals und heute

Im Titel dieser «Erquickung» erhebt Harsdörffer den Anspruch, «die gantze Teutsche Sprache auf einem Blættlein [zu] weisen». Das dürfte heute vielen bloss ein Schmunzeln entlocken. Aber wir erleben ja auch, dass Automaten vom Typ ChatGPT mit dem Anspruch daherkommen, in vielen Sprachen zu beliebigen Themen komplette und korrekte Texte zu erzeugen – mit lauter automatisch gebildeten Sätzen, die «ihre Deutung wᵫrcken». Die grossen Sprachmodelle, auf denen diese Textgeneratoren beruhen, enthalten nicht Wortbestandteile, sondern ganze Wörter oder Wortgruppen aus dem enormen Wortschatz des Internets. Und die Verknüpfung erfolgt nicht mit zweidimensionalen Ringen, sondern mit einer mehrdimensionalen Erfassung von Kombinationen, die in bestimmten Kontexten häufig vorkommen.

Die Modelle erstellen dieses Beziehungsgefüge selbständig beim maschinellen Lernen, nach einer bei Google entwickelten, Transformer genannten Methode. Wenn heute von Künstlicher Intelligenz (KI) die Rede ist, sind meistens solche Sprachmodelle gemeint, obwohl es schon länger auch andere Ansätze gibt. Liegt hier eine Intelligenz in dem Sinn vor, dass diese Automaten selber denken? Am Schluss der Sprachlupe zu DeepSeek habe ich kürzlich diese Frage gestreift, denn dort gibt es die Funktion DeepThink (und bei ChatGPT Reasoning) – damit kann man mitlesen, wie die Modelle zu ihren Antworten kommen.

Wie denkt KI? Gar nicht, meint ein Teil der Fachwelt

Näher ist am 27. März Radio SRF im «Echo der Zeit» auf die Frage eingegangen: «Wie denkt die künstliche Intelligenz?» (ab 33. Min.). Hier meine Zusammenfassung mit Zitaten:

Fazit unter Fachleuten: «Die einen glauben, dass die grossen Sprach­modelle tatsächlich auf eine Art denken können, auch wenn dieses Denken noch nicht so flexibel und allgemein anwendbar ist wie das des Menschen. Kritische Stimmen dagegen werfen ein, dass solche KI-Modelle eben keine Menschen sind, dass sie nicht wirklich kausal denken können und nicht bewusst logische Argumente konstruieren, denn grosse Sprachmodelle haben kein Bewusstsein wie der Mensch. […] Sie basieren lediglich auf Wahrscheinlichkeitsberechnungen: Dank einer riesigen Menge von Trainings­daten wissen sie, welches Wort oder welcher Satz statistisch am wahrscheinlichsten auf eine bestimmte Eingabe folgt, doch die Bedeutung dieser Worte und Sätze versteht das Modell nicht.» [An Harsdörffer angelehnt liesse sich sagen: Es hat keine innere Instanz, auf welche «die Deutung wᵫrcken» könnte.]

Nur für diese zweite, kritische Sicht kommt in der Sendung ein Experte zum Wort, Imanol Schlág von der ETH Zürich. Er sagt zur Funktion «Reasoning», mit der ChatGPT auf Wunsch sein Vorgehen erläutert, oft als Unterteilung des Problems in Einzelschritte: Das Modell «kann merken, wenn es auf einem Holzweg ist, es kann selber erkennen, dass die vorherigen Entscheidungen, die es getätigt hat, nicht zum Ziel führen, und dann macht es einen Schritt zurück und probiert etwas Neues.» Der «Echo»-Beitrag führt aus, etwa in Mathematik oder Physik gelinge «es der KI erstaunlich gut, menschliches Argumentieren nachzuahmen oder sogar zu übertreffen. In anderen Bereichen scheitert die KI aber selbst an leichten Aufgaben, etwa wenn es um Fragen geht, deren Lösung Intuition erfordert oder die Fähigkeit, zwischen den Zeilen zu lesen. […] Präsentiert man der KI Aufgaben in einer Form, die ihr neu ist, die sie nicht in den Trainingsdaten gefunden hat, dann sinkt die Zuverlässigkeit der Resultate rasch. Das haben jüngst Ingenieure von Apple nachgewiesen.» Für den Dozenten Schlág zeigt das: «Das Modell hat nicht einen generellen Algorithmus entwickelt, um das Problem zu lösen, sondern es hat einfach diese Distributionen gelernt.» Es hat also, erläutert SRF-Digital­redaktor Jürg Tschirren, «bloss gelernt, welches Reasoning, welche Herleitung aufgrund der Trainingsdaten am wahrscheinlichsten ist, was nicht automatisch heisst, dass diese Herleitung auch richtig ist.»

Denken Menschen wirklich anders?

So weit die Fachleute. Mir drängt sich die Frage auf, ob unser Denken wirklich etwas grundsätzlich Anderes ist als das, was KI-Sprachmodelle heute können, auch gemäss zurückhaltenden Expertisen: mit gelernten Textbausteinen sehr geschickt umgehen. KI-Forschung dient zumindest nebenbei auch dazu, mehr über menschliche Intelligenz (und deren Mängel) zu erfahren. Gelangen wir dereinst zum Schluss, wir besässen gar kein über der Hirntätigkeit thronendes Bewusstsein, welches das Denken steuert, jedenfalls soweit dieses bewusst geschieht? Könnte es sein, dass auch wir letztlich nur die Informationsfetzen, die wir im Lauf unseres Lebens einsammeln, nach mehr oder weniger raffinierten Methoden immer wieder neu bündeln?