Die Ausbeutung hinter dem KI-Boom

psi. Dies ist ein Gastbeitrag der beiden Soziologen Clément Le Ludec (Institut Polytéchnique de Paris) und Maxime Cornet (Telecom Paris). Sie arbeiten am Forschungsprojekt HUSH unter Professor Antonio Casilli. Der Artikel erschien zuerst bei The Conversation auf französisch. Infosperber übernimmt ihn im Rahmen der Creative Commons-Lizenz.

Hinter künstlicher Intelligenz (KI) stecken nicht nur Roboter: Am Ende der Wertschöpfungskette stehen oftmals Arbeiter aus den Ländern des Südens. Vor kurzem enthüllte eine Untersuchung des Time Magazine: Kenianische ArbeiterInnen mit einem Stundenlohn von weniger als drei Euro stellten sicher, dass die ChatGPT zugrundeliegenden Daten keine diskriminierenden Inhalte enthielten.

KI-Modelle müssen trainiert werden. Dies geschieht, indem eine extrem grosse Menge an Daten mobilisiert wird, damit sie ihre Umgebung erkennen – und mit ihr interagieren. Diese Daten müssen gesammelt, sortiert, verifiziert und in Form gebracht werden. Diese zeitraubenden und wenig wertvollen Aufgaben werden von Technologieunternehmen in der Regel an eine Schar von prekär Beschäftigten ausgelagert, die in der Regel in den Ländern des Südens angesiedelt sind.

Diese Arbeit mit Daten kann je nach Anwendungsfall des endgültigen Algorithmus verschiedene Formen annehmen. Es kann zum Beispiel darum gehen, die Personen auf den Bildern einer Überwachungskamera einzukreisen, um dem Algorithmus beizubringen, wie er einen Menschen erkennen kann. Oder manuell Fehler korrigieren, die von einem KI-Modell produziert wurden.

Unsere Forschung zwischen Paris und Antananarivo, der Hauptstadt Madagaskars, untersuchte die Identität dieser DatenarbeiterInnen, ihre Rollen und Arbeitsbedingungen. Damit will sie die Diskussionen um die Regulierung von KI-Systemen bereichern.

Künstliche Intelligenz, eine globalisierte Produktion

Unser Forschungsprojekt stützt die Hypothese, dass die Entwicklung der künstlichen Intelligenz nicht das Ende der Arbeit aufgrund der Automatisierung bedeutet, wie einige Autoren behaupten. Vielmehr bedeutet sie die Verlagerung der Arbeit in Entwicklungsländer.

Unsere Studie zeigt auch die Realität der «französischen KI»: Einerseits verlassen sich französische Technologieunternehmen auf die Dienste der Big Five (Google, Apple, Facebook, Amazon und Microsoft), um Zugang zu Datenhosting und Rechenleistung zu erhalten. Andererseits werden datenbezogene Tätigkeiten von Arbeitnehmenden in den ehemaligen französischen Kolonien, insbesondere Madagaskar, ausgeführt. Dies bestätigt dann die bereits länger bestehenden Logiken der Outsourcing-Ketten. In der wissenschaftlichen Literatur wird diese Art von Industrie übrigens mit dem Textil- und Bergbausektor verglichen.

Eine anfängliche Feststellung leitete unsere Untersuchungsarbeit: Die Produktionsbedingungen der KI sind nach wie vor schlecht bekannt. Auf der Grundlage früherer Forschungen zur «digitalen Arbeit» (digital labour) wollten wir verstehen, wo und wie die Algorithmen und die zu ihrem Training erforderlichen Datensätze geformt werden.

Als Teil der Forschungsgruppe Digital Platform Labor besteht unsere Arbeit darin, die Outsourcing-Beziehungen zwischen französischen Unternehmen für künstliche Intelligenz und ihren in den frankophonen Ländern Afrikas ansässigen Subunternehmern zu analysieren und die Arbeitsbedingungen dieser madagassischen «DatenarbeiterInnen», die für das Funktionieren intelligenter Systeme unerlässlich geworden sind, aufzudecken.

Unsere Untersuchung begann im März 2021 in Paris. Zunächst wollten wir herausfinden, wie französische KI-Unternehmen die Datenarbeit sehen und welche Verfahren sie anwenden, um die Produktion von Datensätzen mit ausreichender Qualität für die Modellbildung zu gewährleisten.

Wir sprachen mit 30 GründerInnen und MitarbeiterInnen von 22 Pariser Unternehmen der Branche. Aus dieser ersten Feldarbeit ergab sich schnell ein Ergebnis: Die Datenarbeit wird grösstenteils an Dienstleister in Madagaskar ausgelagert.

Die Gründe für diese Konzentration der Outsourcing-Ströme nach Madagaskar sind vielfältig und komplex. Hervorgehoben werden können jedoch die niedrigen Kosten für qualifizierte Arbeit, die historische Präsenz des Sektors für Unternehmensdienstleistungen auf der Insel und die hohe Anzahl von Organisationen, welche diese Dienstleistungen anbieten.

In einem zweiten Teil der Untersuchung, der zunächst aus der Ferne und dann vor Ort in Antananarivo durchgeführt wurde, sprachen wir mit 147 ArbeitnehmerInnen, ManagerInnen und Führungskräften aus zehn madagassischen Unternehmen. Gleichzeitig verteilten wir einen Fragebogen an 296 ArbeitnehmerInnen in Madagaskar.

Digitale Jobs: Prekäre Lösung für junge, gebildete StädterInnen

Zunächst zeigte sich, dass diese Datenarbeiter in einen grösseren IT-Service-Sektor integriert sind. Darin werden Dienstleistungen für Unternehmen erbracht, die von Callcentern über die Moderation von Webinhalten bis hin zu Redaktionsdiensten zur Optimierung der Sichtbarkeit von Websites in Suchmaschinen reichen.

Aus den Daten des Fragebogens geht hervor, dass in diesem Sektor überwiegend Männer (68 %) beschäftigt sind, die jung (87 % sind unter 34 Jahre alt), urban und gebildet sind (75 % haben eine höhere Ausbildung absolviert).

Wenn sie in der Wirtschaft tätig sind, haben sie in der Regel eine unbefristete Stelle. Der geringere Schutz, den das madegassische Arbeitsrecht im Vergleich zum französischen Arbeitsrecht bietet, die mangelnde Kenntnis der Verträge durch die Arbeitnehmenden und die Schwäche der Vermittlungsinstanzen (Gewerkschaften, Kollektive) sowie ihrer Vertretung in den Unternehmen verstärken jedoch die Unsicherheit ihrer Position. Sie verdienen mehrheitlich zwischen 96 und 126 Euro pro Monat. Dabei gibt es erhebliche Lohnunterschiede, bis hin zu 8- bis 10-mal höheren Löhnen für die Positionen der Teamaufsicht, die auch von madegassischen Arbeitnehmenden vor Ort besetzt werden.

Diese ArbeiterInnen befinden sich am Ende einer langen Outsourcing-Kette, was teilweise erklärt, warum die Löhne dieser qualifizierten Arbeitnehmer selbst im madagassischen Kontext so niedrig sind.

An der Produktion von KI sind in der Tat drei Arten von Akteuren beteiligt: die von den Big Five angebotenen Dienstleistungen des Datenhostings und der Rechenleistung, französische Unternehmen, die KI-Modelle verkaufen, und Unternehmen, die von Madagaskar aus Datenannotationsdienste anbieten. Dabei zwackt jeder Zwischenhändler einen Teil des produzierten Werts ab.

Letztere sind zudem in der Regel stark von ihren französischen Kunden abhängig, welche diese ausgelagerte Arbeitskraft quasi direkt verwalten, mit dedizierten mittleren Managementpositionen innerhalb der Pariser Start-Ups.

Die Besetzung dieser Managementpositionen mit AusländerInnen, die entweder bei den Kundenunternehmen in Frankreich angestellt sind oder ins Ausland entsandt werden, stellt ein grosses Hindernis für die Karrieremöglichkeiten der madegassischen Arbeitskräfte dar. Sie stecken so auf den unteren Stufen der Wertschöpfungskette fest.

Unternehmen profitieren von postkolonialen Verbindungen

Die KI-Industrie profitiert von einer Sonderregelung, den «Freizonen», die 1989 für den Textilsektor eingeführt wurden. Seit Anfang der 1990er Jahre lassen sich französische Unternehmen in Madagaskar nieder, insbesondere für Digitalisierungsaufgaben im Zusammenhang mit dem Verlagswesen. Diese Zonen, die es in vielen Entwicklungsländern gibt, erleichtern Investoren die Niederlassung, indem sie Steuerbefreiungen und sehr niedrige Steuersätze vorsehen.

Heute werden von den 48 Unternehmen, die in Freihandelszonen digitale Dienstleistungen anbieten, nur 9 von MadagassInnen betrieben, während 26 von französischen StaatsbürgerInnen geleitet werden. Neben diesen formellen Unternehmen hat sich der Sektor um einen Mechanismus der «kaskadierenden Untervergabe» herum entwickelt, wobei am Ende der Kette informelle Unternehmen und Einzelunternehmer stehen, die weniger gut behandelt werden als in formellen Unternehmen.

Neben den Arbeitskosten profitiert die Outsourcing-Industrie von gut ausgebildeten Arbeitskräften: Die meisten haben eine Universität besucht und sprechen fliessend Französisch, das sie in der Schule, über das Internet und über das Netzwerk des «Institut Français» gelernt haben. Diese Institution zum Erlernen der französischen Sprache wurde ursprünglich 1883 gegründet, um die Kolonialisierung durch die Ausweitung des Gebrauchs der Sprache des Kolonialherren durch die kolonisierte Bevölkerung zu stärken.

Dieses Muster erinnert an das, was der Forscher Jan Padios als «colonial recall» bezeichnet. Die Länder der ehemaligen Kolonien verfügen über sprachliche und kulturelle Verbindungen zu den Auftraggeberländern, von denen die Dienstleistungsunternehmen profitieren.

Arbeitskräfte im KI-Sektor sichtbar machen

Hinter der gegenwärtigen Explosion von KI-Projekten, die in den nördlichen Ländern vermarktet werden, steht eine wachsende Zahl von Datenarbeitern. Während sich die jüngste Kontroverse um die «intelligenten Kameras», die im Gesetzentwurf für die Olympischen Spiele in Paris vorgesehen sind, hauptsächlich auf die Risiken einer allgemeinen Überwachung konzentrierte, halten wir es für notwendig, die menschliche Arbeit, die für das Training der KI-Modelle unerlässlich ist, besser zu berücksichtigen.  Denn sie wirft neue Fragen zu den Arbeitsbedingungen und zum Schutz der Privatsphäre auf.

Die Beteiligung dieser Arbeitnehmer sichtbar zu machen, bedeutet, in der Fertigungsindustrie wohlbekannte, globalisierte Produktionsketten in Frage zu stellen, die nämlich auch im digitalen Sektor existieren. Da diese Arbeiter für das Funktionieren unserer digitalen Infrastrukturen notwendig sind, sind sie die unsichtbaren Zahnräder unseres digitalen Lebens.

Es geht auch darum, die Auswirkungen ihrer Arbeit auf die KI-Modelle sichtbar zu machen. Ein Teil der algorithmischen Verzerrungen liegt nämlich in der Arbeit mit Daten, die jedoch von den Unternehmen noch weitgehend unsichtbar gemacht wird. Eine wirklich ethische KI muss daher eine Ethik der Arbeit der KI voraussetzen.