Intelligence artificielle: les forçats du monde numérique

Derrière l’intelligence artificielle (IA) se cachent en fait des millions de travailleurs précaires partout dans le monde. Qui passent leurs journées ou leurs nuits à annoter des milliards de données. Éclairage sur ces forçats du numérique.

L’idée que le grand public se fait de l’intelligence artificielle (IA) est largement façonnée par la pop culture, notamment par des films à succès et leurs scénarios apocalyptiques de machines devenant incontrôlables et détruisant l’humanité.

Cette représentation de machines super-intelligentes, dotées d’un pouvoir de décision et d’action propre, est très éloignée de la réalité. Elle cache surtout l’existence de millions de travailleurs précarisés dans le monde entier qui ‘nourrissent’ les machines avec des données de tous ordres

«ChatGPT, aussi incroyable que cela puisse paraître, repose sur le travail de centaines de milliers de personnes, au Kenya ou à Madagascar par exemple, qui, pour quelques dollars par jour, trient et valident des datas à la ‘main’, pour les grandes entreprises occidentales», note pour cath.ch l’éthicien d’origine camerounaise Ezekiel Takam

Linda, Carlos ou Franck

Les robots s’appellent donc en réalité Linda, Carlos ou Franck, et viennent d’Argentine, d’Inde, du Mexique, du Nigeria, et même d’Europe. «Les microtravailleurs exercent aussi bien dans les pays du Nord que dans ceux du Sud, mais avec des profils différents, analyse Antonio Casilli, professeur de sociologie à Télécom Paris, dans une interview à La Croix. Dans les pays du Nord, il s’agit plutôt de femmes, diplômées, entre 24 et 44 ans, qui ont une autre activité par ailleurs et complètent leurs revenus. Dans les pays du Sud, ce sont des hommes, plus jeunes, qui n’accèdent pas au marché du travail.» Le professeur estime leur nombre à 16 millions de personnes dans le monde.

À Cagayan de Oro, aux Philippines, les petites mains de l’IA travaillent ainsi jour et nuit, chaque jour de la semaine

Des Philippines au Kenya

À Cagayan de Oro, aux Philippines, les petites mains de l’IA travaillent ainsi jour et nuit, chaque jour de la semaine. ‘Je viens ici du lundi au samedi, parfois le dimanche’, raconte Kieffer, 23 ans, dans un reportage du magazine Amnesty. À l’intérieur de la salle dans laquelle il travaille, une vingtaine de ses collègues s’entassent dans une quinzaine de mètres carrés. Leur gain: quelques dollars par jour.

Aucune des personnes employées ne possède de contrat de travail. Les salaires sont versés en ligne, hors du système bancaire national. Ces emplois ne sont ainsi pas déclarés. Sur le papier, ces gens sont des sous-traitants indépendants, même s’ils ont un lieu de travail fixe, des chefs et des horaires de travail déterminés. Ce qui s’apparente clairement à de l’exploitation.  

L’IA n’est pas intelligente

L’IA n’est pas «intelligente’ mais a besoin d’être ›entraînée’ pour fournir des résultats, tandis que la donnée n’est jamais ›donnée’, mais précisément produite. Pour qu’une machine différencie un chat d’un chien, il faut d’abord lui fournir des dizaines de milliers de photographies annotées avec la réponse. C’est ensuite qu’elle pourra déterminer s’il s’agit d’un félin. 

Les grands acteurs numériques ont compris très tôt que de gros volumes de travail chronophage pouvaient être décomposés en tâches plus petites pouvant être rapidement accomplies par des millions de personnes dans le monde. Ainsi l’annotation manuelle d’un million d’images peut être plus facilement exécutée par un millier de travailleurs étiquetant chacun 1000 images.

Dans tous les domaines

Le travail d’annotation ou d’étiquetage peut concerner des domaines très variés, de la publicité au commerce, de la recherche scientifique à la surveillance collective. Une enquête du Time, en 2023, révélait que des travailleurs kényans, payés moins de trois euros de l’heure, étaient chargés de s’assurer que les données utilisées pour entraîner ChatGPT ne comportaient pas de contenu à caractère discriminatoire. Au Venezuela, des travailleurs étiquettent les données pour les systèmes de reconnaissance d’images dans les véhicules autonomes à Los Angeles. En Bulgarie, des réfugiés syriens alimentent les systèmes de reconnaissance faciale avec des selfies étiquetés selon les catégories de race, de sexe et d’âge.

Les modérateurs de contenu effectuent des tâches traumatisantes tout en étant étroitement surveillés.

Parfois, outre l’étiquetage de données récupérées sur le net, certains emplois exigent que les ouvriers fournissent eux-mêmes des données, en leur demandant de télécharger des selfies, des photos de leurs amis et de leur famille ou des images des objets qui les entourent.

Les modérateurs de contenu

Le statut des modérateurs de contenu est encore plus exigeant. Ils sont contraints d’effectuer des tâches traumatisantes, tout en étant étroitement surveillés. Chaque vidéo de meurtre, de suicide, d’agression sexuelle ou de maltraitance d’enfant qui n’a pas été diffusée sur une plate-forme a été visionnée et signalée par un modérateur ou par un système automatique dont l’entraînement a été assuré par des humains. Exposés constamment à des contenus violents, les employés peuvent souffrir de traumatismes. Ils ne disposent que rarement d’un soutien psychologique suffisant. Ils sont en outre soumis à une surveillance continue et exposés à un renvoi immédiat en cas d’erreur.

Pour une IA juste et équitable

Quelques opérateurs affirment vouloir contribuer à un écosystème d’IA juste et équitable. Ils reconnaissent la valeur de leurs annotateurs et garantissent une rémunération correcte et des conditions de travail justes. Ils leur offrent des contrats permanents et leur proposent une formation continue. Maintenir ainsi leurs compétences sur différents outils, types de données et tâches pourrait s’avérer payant dans la durée.

«La confiance excessive dans les entreprises privées pour ‘faire ce qui est juste’ n’est tout simplement pas suffisante.»

Volker Türk, Haut Commissaire aux Droits de l’homme de l’ONU

Mais dans l’immense majorité des cas, la protection des travailleurs est quasi nulle. Alors que les entreprises traitent souvent leurs travailleurs à faible revenu comme des objets jetables, elles hésitent néanmoins davantage à perdre leurs cadres locaux formés, qui peuvent rapidement trouver un emploi chez des concurrents. Ces derniers disposent ainsi d’une plus grande marge de manœuvre pour s’organiser, se syndiquer. Ce qui pourrait entraîner une évolution de la branche.  

Faire ce qui est juste

«A l’heure actuelle, l’IA générative est encore développée et déployée sans que l’on sache exactement comment garantir la sécurité, relevait en janvier 2024 Volker Türk, Haut-Commissaire des Nations–Unies aux droits de l’homme dans un discours à l’Université de Stanford, aux États-Unis. J’irais même plus loin en disant que cela a lieu sans vision claire quant aux objectifs à atteindre. Une transparence limitée, une responsabilité floue et une confiance excessive dans les entreprises privées pour ‘faire ce qui est juste’ ne sont tout simplement pas suffisantes face à ces puissantes technologies.»  

«Le cadre des droits de l’homme constitue la base dont nous avons besoin de toute urgence pour innover et exploiter le potentiel de l’IA. Il peut également aider à prévenir et atténuer une multitude de risques et éviter que l’IA générative ne devienne un vecteur de violations généralisées des droits de l’homme, d’atteintes à ces droits, de discrimination et d’exclusion», concluait-il. (cath.ch/mp)