Recherche

Recension Société

Cannibale machine

À propos de : Antonio Casilli, En attendant les robots, Seuil


par Martin Gibert , le 24 juillet 2019


Des machines intelligentes à l’assaut du travail humain ? Enquêtant sur le digital labor qui se cache derrière les promesses de l’automatisation et des robots, Antonio Casilli soutient notamment que les médias sociaux constituent une forme de travail non rémunéré.

Aimer ou partager cet article sur Facebook, est-ce travailler ? Et regarder une vidéo sur YouPorn ? Oui, répond en substance Antonio Casilli dans En attendant les robots : enquête sur le travail du clic. Un livre à la fois dense, solidement documenté et stimulant.

Ce travail qui n’en a pas l’air, c’est ce que Casilli nomme – avec d’autres – le digital labor, un des concepts clés de cet ouvrage qu’on pourrait présenter comme une sociologie critique de l’intelligence artificielle. L’auteur, qui est lui-même sociologue du travail et chercheur à l’EHESS, nous propose de sortir de l’IA washing et de la hype pour mieux découvrir toutes ces petites mains humaines trop humaines qui œuvrent dans l’ombre des algorithmes d’IA.

L’erreur, soutient Casilli, serait de croire qu’avec l’automation, le travail va disparaître. Il va plutôt être « plateformisé » et digitalisé. Autrement dit, en attendant les robots qui, comme dans le Godot de Beckett, pourraient tarder à entrer en scène, on ferait bien d’examiner les changements concrets qui s’opèrent dans le travail humain. Car, en lieu et place d’un remplacement du travail par des robots, on a souvent affaire à un simple déplacement. C’est ce que montre bien l’exemple des guichets automatiques. Ceux-ci ne remplacent pas complètement le travail qui était jadis celui du guichetier : ce sont plutôt les clients qui prennent désormais en charge la responsabilité de faire fonctionner la machine. À plusieurs égards, cet exemple est symptomatique de notre difficulté à percevoir ces nouvelles formes de travail qu’analyse Casilli.

Le digital labor

Le concept de digital labor désigne d’abord le travail du doigt « qui sert à compter, mais aussi qui pointe, clique, appuie sur le bouton » (p. 48). Mais c’est aussi plus compliqué que ça. Et c’est tout l’objet de la partie centrale du livre qui prolonge un débat sur la pertinence de ce concept avec le sociologue Dominique Cardon. Situé dans une « zone grise entre le marchandage et l’emploi salarié », le digital labor s’inscrit « dans un rapport de subordination, de surveillance et d’inégalité de droit entre les travailleurs et les propriétaires de services numériques » (p. 267). On peut le décliner de trois manières.

Le travail à la demande, comme avec Uber ou Foodora, en constitue une première forme. Ces services de transport ou de livraison s’appuient ainsi sur des plateformes et mobilisent des processus de décision basés sur des algorithmes et des données qui bouleversent l’organisation du travail. Il s’agit en quelque sorte de pousser à son maximum la logique du fordo-taylorisme (le travail à la chaîne) en mesurant et en divisant toujours plus les tâches. Et les travailleurs ne semblent pas en sortir gagnants.

Le micro-travail auquel se consacre le quatrième chapitre est une deuxième forme de digital labor. Il s’agit de réaliser « de petites corvées telles que l’annotation de vidéo, le tri de tweets, la retranscription de documents scannés (…) » (p. 119). C’est sans doute l’un des apports les plus intéressants de l’ouvrage que de braquer le projecteur sur le travail de ces personnes — une centaine de millions dans le monde, dont 260 000 en France — souvent précaires, qui font tourner le capitalisme numérique.

Des services en ligne comme le Mechanical Turk permettent par exemple à des entreprises d’externaliser le « travail du clic ». La plateforme d’Amazon, née en 2005, emploie principalement des citoyens américains et indiens qui accomplissent des micro-tâches mal payées. Ces personnes travaillent chez elles, ne se rencontrent pas et ne connaissent pas leurs clients. Elles ne sont évidemment pas syndiquées, ni même organisées. Il y a d’ailleurs beaucoup d’ironie à ce que ce service d’« IA artificielle », comme le nomme Jeff Bezos, le PDG d’Amazon, reprenne le nom du Turc mécanique, cet automate du XVIIIe siècle qui prétendait jouer aux échecs, mais dissimulait en réalité un humain derrière ses engrenages inutiles. Comment ne pas percevoir un troublant écho avec la situation actuelle ?

« L’automation revient à une formule simple, résume Casilli : une façade avec un ingénieur qui vante les prouesses de sa machine et une arrière-boutique dans laquelle des travailleurs se tuent à la micro-tâche. » (p. 136) Ce micro-travail invisibilisé passe aussi par de nouvelles formes de contrôle puisqu’il faut garantir aux clients qu’il est bien effectué par des humains. Ceux-ci doivent donc remplir des tests de type CAPTCHA toutes les quarante-cinq minutes. Plus généralement, les données de ces travailleurs (les turkers) sont requises pour faire fonctionner la plateforme et les mettre en relation avec des requérants — la plateforme tirant, en définitive, une « rente d’intermédiation ».

On l’aura deviné, partager un article sur Facebook ou regarder une vidéo sur YouPorn ne relève ni du travail à la demande ni du micro-travail, puisque ce n’est ni une activité rémunérée, ni un service réclamé par un client. Mais il existe, poursuit Casilli, une troisième forme de digital labor, le travail social en réseau, qui correspond en particulier à la participation des usagers aux médias sociaux. Comment analyser ce phénomène ? Le cinquième chapitre présente en détail la controverse sur la nature exacte de ce « travail gratuit ».

Du travail gratuit ?

Selon une approche « hédoniste », les médias sociaux ne relèvent pas du travail parce qu’on y participe librement et pour le plaisir, à travers une nouvelle culture de l’amateurisme. Mais Casilli préconise plutôt une approche travailliste qui voit le « produsage », c’est-à-dire les activités qui entremêlent production et usage, comme s’inscrivant « dans un rapport d’exploitation » (p. 168). Le travail non rémunéré n’est pas une nouveauté : travail domestique, bénévole, forcé... Mais comment de simples clics sur des médias sociaux peuvent-ils être considérés comme du travail ? C’est qu’en créant des données (et des métadonnées), l’utilisateur crée de la valeur. En likant ou partageant un article sur Facebook, on enrichit une base de données qui permettra à l’entreprise de générer d’importants revenus publicitaires – 55 milliards de dollars en 2018.

Casilli montre que la démarcation entre professionnalisme et amateurisme est souvent poreuse. Existe-t-il vraiment une différence de nature entre le critique gastronomique, la Youtubeuse cuisine et le commentaire anonyme sur Yelp ? La modératrice payée pour filtrer les contenus violents fait-elle autre chose que le simple usager qui bloque, masque ou signale de tels contenus ? D’aucuns répliqueront peut-être que le travail se définit d’abord par son caractère pénible. Pour autant, pourquoi le fait qu’une tâche soit plaisante, conviviale ou créative la disqualifierait-elle comme travail ? D’ailleurs, est-on si certain que les médias sociaux sont dépourvus de pénibilité ? L’auteur cite des enquêtes de terrain où des jeunes de milieux populaires décrivent l’inconfort et la « corvée » d’être sur Facebook « pour maîtriser ce que les autres exposent de soi » (p.187).

Mais l’argument qui semble le plus décisif, c’est celui des « fermes à liens » et des « fermes à clics ». Ainsi, en 2013, les faux clics sur Facebook auraient rapporté 200 millions de dollars, avec des services comme GetPaidForLikes. Facebook même propose aujourd’hui aux usagers de « booster un post » pour quelques dollars. Or, si des personnes sont rémunérées dans des « fermes » pour effectuer le même genre de micro-tâches que celles exécutées par les usagés ordinaires, ne faut-il pas en conclure — par analogie — que ces dernières sont, elles aussi, du travail ?

Ainsi, en aimant ou en partageant un article sur Facebook, vous contribuez à lui donner une visibilité qui aurait pu être autrement acquise en payant le prix. Si la valeur de ce travail est infime (en Inde en 2019, le clic vaut 0,008 $, explique Casilli dans une entrevue), sa démultiplication et son agrégation créent une richesse importante — pour autant qu’une entreprise est capable de valoriser ces données. « Sur les plateformes sociales, conclut l’auteur, tout nouvel abonné se retrouve aujourd’hui pris à l’intérieur d’un système de production de clics fondé sur du travail invisibilisé, celui “gratuit” qu’il est amené à assurer et celui de ses homologues microrémunérés. » (p. 218) Autrement dit, en dépit de son caractère ludique et gratuit, le travail du clic participe incontestablement de l’économie numérique.

La valorisation des données

Mais si l’on a du mal à percevoir ce travail comme authentique, c’est peut-être parce qu’il est plus facile de comprendre la valeur attachée à un objet que celle attachée à une base de données ou à un flux d’information. Pour y voir plus clair, Casilli propose de distinguer trois formes de valorisation, c’est-à-dire trois manières de donner de la valeur à des données.

On peut d’abord qualifier un contenu, c’est-à-dire ajouter de l’information, comme lorsqu’on crée un profil d’utilisateur, que l’on fait un commentaire ou qu’on like une vidéo sur un réseau social (on estime à 4.3 milliards le nombre de like quotidiens sur Facebook). On peut également qualifier un autre usager — et activer des mécanismes réputationnels — comme c’est par exemple le cas dans les applications de rencontre (quand on swipe à gauche ou à droite sur Tinder).

On peut ensuite créer de la valeur en monétisant des données personnelles. C’est ici le principal modèle d’affaire des plateformes qui vendent du ciblage publicitaire à des annonceurs. Les bases de données se composent du croisement d’informations parfois inattendues : marques des téléphones ou des ordinateurs, localisation, listes des contacts, comportement en ligne. Les courtiers en data (data brokers) sont les agents directs de cette valorisation des données par monétisation.

Avec le développement des systèmes d’intelligence artificielle, une troisième forme de valeur attachée aux données s’est développée : la valeur d’automation. En effet, les algorithmes d’apprentissage profond (deep learning) ont besoin d’être entraînés avec d’importantes quantités de données « personnelles » afin d’optimiser leurs prédictions (l’IA est essentiellement un outil de prédiction). Casilli donne comme exemple les applications controversées de reconnaissance faciale, mais on peut dire que c’est l’essentiel des systèmes d’IA aujourd’hui performants – de Google traduction à la reconnaissance de tumeurs – qui repose sur cette valeur d’automation des données.

On le voit, selon cette lecture, l’humain qui étiquette — de façon rémunérée ou non — apparaît comme la source principale de la valorisation des données. Dès lors, son occultation derrière les prouesses de l’IA et la promesse des robots accrédite la thèse d’une invisibilisation du travail humain au cœur de l’économie numérique. On peut toutefois se demander si l’automation fondée sur des données « non humaines » (issues par exemple d’animaux, de robots ou d’évènements météorologiques) ne risque pas d’ébranler ces analyses. De même, qu’adviendra-t-il de ce modèle si, comme l’espèrent les chercheurs en IA, l’apprentissage non supervisé, c’est-à-dire sans données étiquetées, se développe ?

Une critique sociale

Pour l’heure, il paraît difficile de contester à Antonio Casilli d’avoir mis le doigt sur une dimension importante de l’économie et de la sociologie contemporaine du numérique. D’autres ouvrages, comme le récent Ghost Work : how to stop Silicon Valley from building a new global underclass de Gray et Suri (2019) vont d’ailleurs dans le même sens. On ne sera pas surpris de voir le livre de Casilli déboucher, dans sa dernière partie, sur une critique sociale. Après tout, « le travail micro-, sous-, mal ou non payé est comme le fil rouge qui unit les différentes formes du digital labor » (p. 223). En attendant les robots entend donc promouvoir la reconnaissance du digital labor afin de créer une véritable conscience de classe parmi les travailleurs du clic.

Et pour mettre un visage sur ces travailleurs, Casilli mentionne le court documentaire The Moderators (2017) qui s’attache précisément à nous les montrer. Dans une salle de classe en Inde, on assiste à une semaine de formation pour de futurs modérateurs et modératrices de contenu. Pour la plupart d’entre eux, c’est un premier job qu’ils accueillent avec joie. Malgré la rumeur de la rue, ils écoutent avec attention les directives de la formatrice en sari : « Pourquoi ne voyez-vous pas de pornographie lorsque vous êtes sur Facebook, demande-elle ? Pensez-vous que c’est parce que personne n’en poste ? » Voilà tout le travail des modérateurs : s’assurer que Facebook ne devienne pas YouPorn. Et si ce documentaire complète très bien En attendant les robots, c’est parce qu’il donne à voir cette réalité très prosaïque : les images de pénis à rejeter, les gros ventilateurs au plafond, les chemises retroussées sur les manches et les regards concentrés sur l’écran.

En attendant les robots, l’économie numérique et l’IA vont avoir encore besoin des modérateurs indiens, des turkers américains et des données que nous créons, souvent à notre insu, sur les réseaux sociaux. Car tout cela produit de la valeur. Dans sa conclusion, l’auteur explore quelques pistes de redistribution, avec l’idée d’un revenu social numérique ou les travaux de Trebor Scholz sur le « coopérativisme de plateforme » et la propriété collective des moyens de production numérique.

Tous ces éléments font de ce livre à la lecture agréable une contribution importante à la sociologie critique de l’IA. Antonio Casilli propose incontestablement une description fine et très riche en exemples du digital labor. Il offre également des outils d’analyse et une perspective engagée dans le débat normatif. Sur ce dernier terrain, il y a évidemment place à la discussion. Qu’en est-il, par exemple, de ce travail du clic en termes de bien-être ?

Dans le cas du travail social en réseau, Casilli semble négliger la valeur du service rendu gratuitement par des plateformes comme YouPorn ou Facebook. Qu’il s’agisse de se masturber ou de s’informer, il ne fait guère de doute qu’une valeur est produite. Et même si c’est au prix des informations que partagent alors les usagers, on peut penser que ça reste un bon deal. On peut aussi penser que partager la recension d’un livre intéressant va produire de la valeur épistémique. Et c’est sans oublier qu’il est toujours bon pour l’ego de recevoir de l’attention, du love ou des likes.

Antonio Casilli, En attendant les robots, Seuil, 2019, 400 p., 24 €.

par Martin Gibert, le 24 juillet 2019

Pour citer cet article :

Martin Gibert, « Cannibale machine », La Vie des idées , 24 juillet 2019. ISSN : 2105-3030. URL : https://booksandideas.net./Cannibale-machine

Nota bene :

Si vous souhaitez critiquer ou développer cet article, vous êtes invité à proposer un texte au comité de rédaction (redaction chez laviedesidees.fr). Nous vous répondrons dans les meilleurs délais.

Partenaires


© laviedesidees.fr - Toute reproduction interdite sans autorisation explicite de la rédaction - Mentions légales - webdesign : Abel Poucet