Des millions de vues pour des papes Léon XIV générés par l’IA

Dans les jours qui ont suivi l’élection du pape Léon XIV, le 8 mai 2025, l’internet a été inondé de vidéos, d’images et de messages de deepfake générés par l’IA et censés représenter le nouveau pontife. Ces fabrications médiatiques, dont certaines ont circulé sur des plateformes telles que YouTube et TikTok, présentent le pape délivrant des messages qu’il n’a jamais prononcés, parfois même avec sa propre voix.

Par exemple, une vidéo YouTube intitulée «L’appel urgent du pape au rléveil des vrais chrétiens || Discours du pape Léon XIV», postée sur une chaîne appelée «Pope Leo XIV Sermons» (les sermons du pape Léon XIV), délivre une exhortation enflammée de 42 minutes sur la fin des temps avec une voix générée par l’IA et basée sur celle du Pape Léon. Nombre de catholiques s’y sont laissés prendre et ont, de plus, partagés les vidéos à leurs proches, contribuant ainsi à répandre ces «deepfakes».

Une enquête de l’AFP a permis d’identifier des dizaines de pages YouTube et TikTok qui diffusent des messages générés par l’IA, prononcés par la voix du pape ou qui lui sont attribués depuis qu’il a pris la tête de l’Église catholique le mois dernier, rapporte le site d’information Alarabya en anglais, le 6 juin 2025. Les centaines de sermons et de discours, fabriqués en anglais et en espagnol, soulignent la facilité avec laquelle les canulars créés à l’aide de l’intelligence artificielle peuvent échapper à la détection et duper les internautes.

«Il y a un intérêt naturel pour ce que le nouveau pape a à dire, et les gens ne connaissent pas encore sa position ni son style», a déclaré Oren Etzioni, professeur émérite de l’université de Washington et fondateur de TrueMedia.org, une organisation à but non lucratif qui se consacre à la lutte contre les «deepfakes». «C’est l’occasion rêvée de semer la zizanie avec des informations erronées générées par l’IA.»

26 chaînes YouTube fermées

Après que l’AFP a signalé à YouTube 26 chaînes diffusant principalement du contenu sur le pape généré par l’IA, la plateforme a fermé 16 d’entre elles pour violation de ses politiques contre le spam, pratiques trompeuses et escroqueries. Une autre chaîne a été pour violation des conditions d’utilisation de YouTube.

«Nous avons fermé plusieurs chaînes signalées par l’AFP pour violation de nos politiques en matière de spam et de nos conditions d’utilisation», a déclaré Jack Malon, porte-parole de YouTube. L’entreprise a également exclu six autres pages de son programme de partenariat, qui permettait aux créateurs de monétiser leur contenu. De même, TikTok a supprimé onze comptes signalés par l’AFP – avec plus de 1,3 million de followers combinés – en invoquant les politiques de la plateforme contre l’usurpation d’identité, la désinformation préjudiciable et le contenu trompeur généré par l’IA sur des personnalités publiques.

Peu ou pas d’avertissements sur l’IA

Avec des noms tels que «Pope Leo XIV Vision», les pages de médias sociaux représentent le pontife censé offrir une multitude d’avertissements et de leçons qu’il n’a jamais prêchés. Mais les avertissements précisant l’utilisation de l’IA sont souvent difficiles à trouver, voire inexistants.

Sur YouTube, une étiquette indiquant «contenu modifié ou synthétique» est requise pour les contenus qui font apparaître une personne comme ayant tenu des propos qu’elle n’a en réalité jamais prononcés. Mais ces mentions n’apparaissent qu’au bas de la description de chaque vidéo. Un porte-parole de YouTube a déclaré que la société avait depuis accolé un label plus visible à certaines vidéos des chaînes signalées par l’AFP qui n’avaient pas enfreint les règles de la plateforme.

TikTok demande également aux créateurs d’étiqueter les posts partageant des contenus réalistes générés par l’IA, bien que plusieurs vidéos centrées sur le pape n’aient pas été marquées. Un porte-parole du réseau social a déclaré que l’entreprise supprimait de manière proactive les contenus violant les règles et utilisait des badges vérifiés pour signaler les comptes authentiques. Brian Patrick Green, directeur de l’éthique technologique à l’université de Santa Clara, a déclaré que les difficultés de modération sont dues au développement rapide de l’IA qui inspire des «utilisations chaotiques de la technologie».

9,6 millions de vues pour une vidéo générée par l’IA

De nombreux clips sur les chaînes YouTube identifiées par l’AFP ont accumulé des dizaines de milliers de vues avant d’être désactivés. Sur TikTok, une vidéo en espagnol a reçu 9,6 millions de vues alors qu’elle prétendait montrer Léon XIV prêchant la valeur du soutien aux femmes. Une autre vidéo, qui portait un label IA et qui a tout de même trompé les spectateurs, a été visionnée quelque 32,9 millions de fois. Or aucune vidéo sur la page Instagram officielle du pape n’a dépassé les 6 millions de vues.

Selon les experts, même les faux apparemment inoffensifs peuvent poser problème, en particulier s’ils sont utilisés pour accroître l’engagement des comptes qui pourraient ensuite vendre leur audience ou se tourner vers d’autres fausses informations. Les sermons générés par l’IA ne font pas que «corroder l’autorité morale du pape» et «rendre moins crédible ce qu’il dit réellement», a déclaré Brian Patrick Green, mais ils pourraient être utilisés «pour renforcer la confiance autour de votre chaîne avant de faire dire au pape quelque chose d’outrageant ou d’opportun sur le plan politique».

Vatican News dénonce un ‘deepfake’

Le pape lui-même a également mis en garde contre les risques de l’IA, tandis que Vatican News a dénoncé un ‘deepfake’ qui prétendait montrer le pape faisant l’éloge du dirigeant burkinabé Ibrahim Traoré, qui a pris le pouvoir lors d’un coup d’État en 2022.

L’AFP a également signalé les clips montrant le pape, qui possède les citoyennetés américaine et péruvienne, critiquant le vice-président américain JD Vance et la présidente péruvienne Dina Boluarte. «Il y a là une véritable crise», a déclaré Brian Patrick Green. «Nous allons devoir trouver un moyen de savoir si les choses sont vraies ou fausses.» (cath.ch/ala/ag/bh)