Hass im Internet: Gegenrede ist wirksam

In den USA haben Forschende nun erstmals in grossem Umfang untersucht, wie sich organisierte Gegenrede auf Hassbotschaften im Internet auswirkt. Das Fazit: Organisierte Gegenrede kann ein wirksames Mittel gegen Hass im Internet sein. Das berichtet unter anderem «netzpolitik.org».

Wirksamkeit bisher nur wenig erforscht
Die Studie basiert auf der Grundlage von deutschsprachigen Tweets aus den Netzwerken der rechten Trollarmee «Reconquista Germanica» und des von Fernsehmoderator Jan Böhmermann initiierten Gegenentwurfs «Reconquista Internet». Anhand dieser Tweets programmierten die Forschenden einen Algorithmus, der Hassrede und Gegenrede sowie deren Wechselbeziehung erkennen kann.

Wie organisiert ist der Hass im Netz? Die Dokumentation verfolgt ein Team, das undercover als Trolle und Hater im Netz unterwegs war, und berichtet von gesteuerten Shitstorms, Mobbingattacken und Wahlmanipulationen.

Das ist ein Novum, vor allem, da Datensätze über die organisierte Gegenrede bislang gefehlt haben. Die Forschenden fokussierten sich deshalb auf Deutschland, da hier neben mehreren organisierten rechten Troll-Gruppen mit «Reconquista Internet» erstmals eine organisierte Gegenrede-Gruppe tätig geworden sei. Anhand von mehr als neun Millionen Tweets gingen die Wissenschaftlerinnen und Wissenschaftler der Frage nach, ob Gegenrede im Internet nützlich ist.

«Die Studie belegt erstmals empirisch, was wir mit ‹Reconquista Internet› praktisch erfahren haben: Wer organisierten Hass, rassistische Hetze oder die cleveren Diskursverschiebungskampagnen rechtsextremistischer Netzwerke im Internet erfolgreich bekämpfen will, muss wissen, wie diese verdeckten Manipulationsnetzwerke arbeiten, sie analysieren und gegen sie aktiv werden», sagt Böhmermann gegenüber «netzpolitik.org».

Gegenrede ist schwieriger zu erkennen
Mit je einem erhobenen Datensatz der Trollarmee «Reconquista Germanica» sowie einem Datensatz der Gegenrede-Gruppe «Reconquista Internet» trainierten die Studienautorinnen und -autoren den Algorithmus ihres Erkennungssystems. Der Informatiker Keyan Ghazi-Zahedi, der an der Studie mitgewirkt hat, sagt gegenüber «netzpolitik.org»: «Unser KI-System hat gelernt, was typische Aussagen von Hass-Accounts oder von Gegenrede-Accounts sind.»

Um die Fähigkeiten ihrer künstlichen Intelligenz (KI) zu überprüfen, rekrutierten die Forschenden 55 Menschen, welche eine zufällige Auswahl aus den gesammelten Tweets bewerten mussten. Neutrale Inhalte bildeten die Mitte der Skala, Gegenrede und Hassrede die Extreme. Gemäss den Wissenschaftlerinnen und Wissenschaftlern stimmten die Bewertungen der Testpersonen bei der Hassrede beinahe perfekt mit denen des programmierten Algorithmus überein. Bei der Gegenrede sei die Übereinstimmung ebenfalls stark gewesen. «Das zeigt, dass Gegenrede allgemein von Menschen und KI schwerer zu identifizieren ist. Wir glauben, das könnte daran liegen, dass Gegenrede vielfältiger ist», sagt Ghazi-Zahedi.

Hass- und Gegenrede im Lauf der Zeit
Die Wissenschaftlerinnen und Wissenschaftler untersuchten auch, wie sich Hass- und Gegenrede im Lauf der Zeit verändert hatten. Sie sammelten rund 200’000 Konversationen aus den Jahren zwischen 2013 und 2018, die unter den Tweets von Konten mit grosser Reichweite entstanden waren, welche zum Ziel von Hassrede geworden waren. Die Ergebnisse zeigen, dass das Verhältnis von Gegenrede im April und Mai 2018 deutlich zunahm – just in der Zeit, in der «Reconquista Internet» gegründet wurde. Im Juli 2018 lag dann der Anteil von Gegenrede sogar über demjenigen der Hassrede.

Ausserdem stellten die Forscherinnen und Forscher fest, dass sowohl Hass- wie auch Gegenrede im Juli 2018 durchschnittlich weniger stark ausgeprägt waren. Das deute darauf hin, dass organisierte Gegenrede helfen könne, den hasserfüllten Diskurs im Internet auszugleichen.

Organisierte Gegenrede führt zu zivilisierterem Diskurs
Weiter geht die Studie der Frage nach, welchen Einfluss die Frequenz von Hass- oder Gegenrede auf den späteren Verlauf von Twitter-Konversationen hat. Man habe festgestellt, dass der Hass mit dem Auftreten von Gegenrede abgenommen habe, so Ghazi-Zahedi. Es gebe einen Zusammenhang, die Ergebnisse würden darauf hindeuten, dass auf Gegenrede häufiger neutrale Rede als Hassrede folgen würde. Gegenrede sei anscheinend effektiver darin, einen zivilisierteren Diskurs herbeizuführen, wenn sie organisiert sei.

Die Forscherinnen und Forscher hoffen, dass ihre Arbeit dazu beiträgt, die Dynamik hinter Hass- und Gegenrede besser zu verstehen. So liegen nun Datensätze vor, die auch zeigen können, welche Strategien gegen den Hass im Internet Erfolg versprechen – und zu welchem Zeitpunkt sie am besten angewendet werden. «Man könnte zum Beispiel zeigen, wann es Sinn ergibt, einzeln und mit Fakten zu argumentieren oder wann man besser zu zehnt dagegenhält und die Konfrontation sucht», sagt Ghazi-Zahedi.

«Womöglich könnte dann sogar die Zivilgesellschaft in den stark polarisierten USA vom Erfolg von Reconquista Internet lernen», bilanziert «netzpolitik.org».