IA, gare au spectre d'un nouvel esclavage, lance François

«C’est à l’homme de décider s’il veut devenir la nourriture des algorithmes ou nourrir son cœur de liberté», déclare le pape François dans son message pour la Journée mondiale des communications sociales 2024. Il a mis en garde contre la possibilité que quelques-uns finissent par conditionner la pensée de tous.

Dans sa réflexion sur l’intelligence artificielle et ses effets sur la communication et la société, publié le 24 janvier 2024, le pape François met en garde contre le «spectre d’un nouvel esclavage». Le pontife s’était déjà attaqué à la problématique de l’intelligence artificielle dans son message pour la Journée mondiale de la paix, du 1er janvier 2024. Il avait exhorté les gouvernements à réguler son utilisation au niveau international par le biais d’un traité.

Tout en renouvelant cet appel, il a affirmé cette fois, dans un nouveau texte de quatre pages, publié en la solennité de saint François de Sales, patron des journalistes et des communicants, que «la réglementation ne suffit pas».

Dans cette méditation philosophique, le pape note que la «diffusion accélérée» d’inventions rattachées à l’intelligence artificielle est en train de modifier radicalement l’information et la communication et, à travers elles, «certains des fondements de la cohabitation civile». Il insiste sur le fait que ce changement «touche tout le monde», en ce qu’il concerne l’avenir de l’humanité et sa nature même.

Dépasser la paralysie pour infléchir le phénomène

Le pontife met cependant en garde contre les «effets paralysants» qu’une lecture catastrophiste du phénomène pourrait entraîner. Il invite donc à ne pas se «raidir contre le nouveau», mais plutôt à «orienter dans le bon sens la mutation culturelle en cours».

Notre époque, estime le pape François, est «riche en technique et pauvre en humanité», et pourtant la réflexion sur l’intelligence artificielle doit partir «du cœur de l’homme». Contrairement aux machines, cette «sagesse du cœur», inspirée par «l’Esprit-Saint», permet de «tisser ensemble le tout et les parties, les décisions et les conséquences, les hauteurs et les fragilités, le passé et l’avenir, le ‘je’ et le ›nous’», insiste-t-il.

Le pontife reconnaît la supériorité des technologies d’apprentissage automatique sur le plan de la mémorisation des données et leur traitement, «mais c’est à l’homme et à lui seul qu’il revient d’en décrypter le sens», assure-t-il. Et de prévenir: «Il ne s’agit pas d’exiger que les machines semblent humaines.»

«Les algorithmes ne sont pas neutres»

Le pape met en garde contre «l’hypnose» de l’homme, critiquant «son délire de toute-puissance» quand il essaye «de surmonter sa vulnérabilité par tous les moyens». Cette «tentation originaire de devenir Dieu sans Dieu», que le pape relie au récit de la Genèse, consiste à «vouloir conquérir par ses propres forces ce qui devrait au contraire être accueilli comme un don de Dieu».

«Les algorithmes ne sont pas neutres», insiste le pontife, qui juge important de pouvoir les «comprendre, les appréhender et les réguler» pour ne pas courir le risque de les voir tomber «entre de mauvaises mains». Il alerte en particulier sur le risque de «pollution cognitive» que permet l’intelligence artificielle dans le domaine de la communication et de la presse.

Car si ces technologies permettent aux hommes de «communiquer dans des langues qui leur sont inconnues», elles peuvent aussi faciliter la désinformation avec de «fausses nouvelles» – ou des «hyper trucages» audio ou visuels. Le pape confie d’ailleurs avoir été lui-même l’objet de ces images trompeuses – deep fake – générées par l’IA.

Le danger des «chambres d’écho»

Dans son message daté du 24 janvier 2024, le pape François met aussi en garde contre le phénomène des «chambres d’écho», un mécanisme qui enferme les personnes dans un «marécage anonyme, au service des intérêts du marché ou du pouvoir», en ne lui donnant accès qu’à une information stéréotypée. «Il n’est pas acceptable que l’utilisation de l’intelligence artificielle conduise à une pensée anonyme, à un assemblage de données non certifiées, à une déresponsabilisation éditoriale collective», insiste-t-il. Il avertit que l’absence de réaction face à ces réalités fait planer le «spectre d’un nouvel esclavage» en ouvrant à la «possibilité que quelques-uns conditionnent la pensée de tous».

Rien ne remplace les reportages sur le terrain

François insiste encore sur le fait que l’information ne doit pas être coupée de sa dimension «relationnelle». Celle-ci «implique le corps, l’être dans la réalité», et doit permettre de relayer non seulement des données, mais aussi «des expériences».

Le pape donne pour exemple les communications sur les guerres, opposant la «guerre parallèle» de la désinformation menée par certaines entités et les «reportages de guerre» qui permettent aux personnes de «toucher la souffrance» des victimes des conflits. Il rend d’ailleurs hommage aux nombreux journalistes morts ou blessés sur le terrain.

De très nombreuses questions

Sans apporter de réponse définitive, le pape conclut son texte en listant plusieurs grandes questions auxquelles doit répondre l’humanité concernant l’intelligence artificielle: la protection du professionnalisme des métiers de l’information, la responsabilisation des entreprises développant des plateformes concernant ce qu’elles y diffusent, la durabilité sur le plan écologique de cette technologie «extrêmement énergivore» et sa diffusion dans les pays en voie de développement.

Il demande aussi plus de transparence sur les algorithmes des plateformes et des moteurs de recherches (notamment sur la façon dont sont indexées et désindexées les données), sur les processus d’information et s’élève contre l’anonymat.

Répondre à ces questions, assure le pape, pourrait permettre d’«aligner les systèmes d’intelligence artificielle sur une communication pleinement humaine». «C’est à l’homme de décider s’il veut devenir la nourriture des algorithmes ou nourrir son cœur de liberté, sans laquelle on ne grandit pas en sagesse», conclut-il. (cath/imedia/cd/lb)