Social Bots und Lauschangriffe auf das private Leben

Bei der Berichterstattung zu den US-Wahlen tauchen häufig Berichte über Trolle und Bots auf, die Falschnachrichten verbreiten. Schon bei der Wahl Donald Trumps von 2016 war das Internet in Verruf geraten. Automatisierte Programme – sogenannte «Chat-Boots» – versuchten, die Wahlen mit Falschmeldungen zu beeinflussen. Christoph Drösser berichtet in seinem eben erschienen Buch «Wenn Dinge mit uns reden»: Rund 400 000 Bots seien damals auf Twitter aktiv gewesen und 19 Prozent der politischen Tweets hätten von Computern gestammt. Beunruhigend sei die Ausrichtung solcher Bots. Sie sollten die Wähler nicht mit Argumenten zu neuen Einsichten bringen, sondern sie durch Falschmeldungen beeinflussen und gegeneinander aufbringen. Es seien geeignete Werkzeuge, um extreme Positionen und Verschwörungstheorien zu fördern.

Aber auch im Journalismus können Kurznachrichten von einer Software aus Textbausteinen zusammengesetzt werden, ohne dass wir es merken. Dazu eignen sich, so Drösser, Unternehmensbilanzen, Sportereignisse, Wetter, Verkehrsstaus etc. Kurz: alles Themen, wo strukturierte Daten vorliegen, welche der Computer aus den vorformulierten Textbausteinen nur noch zu einer Geschichte zusammensetzen muss.

Bots und Sprachassistenten sind nicht nur politische Instrumente

Das Buch von Drösser zeigt, dass das Thema der automatisierten Computerkommunikation weit über die politische Diskussion um die Social Bots hinausgeht. Wer das Internet nutzt, trifft immer häufiger auf automatisierte Sprachassistenten, die in Webseiten integriert sind. Wenn Firmen Online-Kundendienste anbieten, steckt dahinter nicht mehr eine Telefonberatung, sondern öfters ein solcher Assistent. Nach Drösser verbergen sich dahinter oft relativ simpel gestrickte Programme, welche die Anfrage des Nutzers auf wichtige Stichworte hin durchsuchen und aus dem Vorrat an Standardantworten eine passende heraussuchen.

Es handelt sich dabei um regelbasierte Chatbots, deren gesamtes Verhaltensrepertoire programmiert werden muss. Das Buch beschreibt, wie sich die Szene der Sprachassistenten in den letzten Jahren jedoch rasant weiterentwickelt hat. Stichwörter dazu sind «Deep Learning» und «neuronale Netze». Solche Systeme basieren nicht mehr auf Regeln, sondern auf statistischen Mechanismen. Die neuronalen Netze der künstlichen Intelligenz lernen, Wörter zu erkennen und korrekte Sätze zu identifizieren, weil sie mit unzähligen korrekten Sätzen trainiert worden sind. Grosskonzerne wie Amazon, Google und Apple verfügen bereits über riesige Datensätze, die sie als Trainingsmaterial für ihre Sprachassistenten nutzen.

Siri und Alexa

Dies verweist auf den Smalltalk mit dem Smartphone, wie er über Sprachassistenten wie «Siri» oder «Alexa» in unseren Alltag Eingang gefunden hat. Mit «Alexa» von Amazon können wir über Sprachbefehle Wetterdaten anfordern, Radiosender einstellen oder das Licht in der Wohnung steuern. Doch diese Kommunikation ist doppelseitig: Dass die Nutzerinnen und Nutzer gleichzeitig ihre eigenen Daten preisgeben, schafft Unbehagen. Drösser beschreibt den Zwiespalt: «In der Vergangenheit haben sich Menschen, insbesondere in Diktaturen, immer wieder Sorgen darüber gemacht, dass ihre Telefonate abgehört werden können. Inzwischen stellen sich Millionen freiwillig Geräte wie Alexa in die Wohnung, die über ein Mikrofon verfügen und zumindest potenziell für Lauschangriffe genutzt werden können. Kaum jemand scheint darüber nachzudenken, was von diesen Geräten tatsächlich aufgezeichnet wird und wer es zu hören bekommt.»

Chancen und Risiken künstlichen Intelligenz

Wie nützlich – trotz der genannten Gefahren – neuronale Netze sein können, zeigt dagegen das Beispiel der Entwicklung von Übersetzungssoftware. Noch vor zehn Jahren galten Computerübersetzungen in fremde Sprachen als kaum verwendbare Lachnummern. Das hat sich geändert, seit es das auf neuronalen Netzen basierte Übersetzungsprogramm DeepL gibt. Da benötigt man nur noch ein bescheidenes Mass an Nachbearbeitung, um eine brauchbare Übersetzung zu erzeugen. DeepL wirbt denn auch vollmundig auf seiner Website: «Neuronale Netzwerke erweitern menschliche Möglichkeiten, überwinden Sprachbarrieren und bringen Kulturen einander näher.»

Aber auch das automatisierte Fahren, das vor kurzem noch als unerreichbares Wunder galt, hat dank neuronalen Netzen und Millionen von verfügbaren Daten riesige Fortschritte gemacht – auch wenn manchmal in einer Zeitung Meldungen stehen wie: «Wieder tödlicher Unfall mit Tesla-Autopilot. Zwei Personen im gerammtem Honda Civic sterben.» Das hört sich wie eine Beschwörung der Überlegenheit der guten alten analogen Techniken an, wo der Mensch das Auto noch selbst lenken musste .

Die Werkzeuge der künstlichen Intelligenz wirken auf uns oft wie die Wunderdinge aus der Welt von Science Fiction. Christoph Drösser gelingt eine spannende Einführung zur Frage der neuronalen Netze und wie Maschinen lernen. Er beschreibt in einer verständlichen Sprache, welche technischen Entwicklungen dabei stattgefunden haben. Der Autor macht deutlich, dass hinter den Kommunikationspartnern im Netz oft kein Mensch mehr steht, sondern eine Maschine. Das ist nach Drösser mit Chancen, aber auch mit grossen Risiken verbunden.

Christoph Drösser: Wenn Dinge mit uns reden; Von Sprachassistenten, dichtenden Computern und Social Bots. Dudenverlag. Zur Bestellung