Deontofi.com a lu pour vous l’encyclique du pape Léon XIV sur les enjeux de l’intelligence artificielle pour l’humanité, 4ème chapitre.
Léon XIV et l’IA : 4 PRÉSERVER L’HUMAIN VÉRITÉ, TRAVAIL, LIBERTÉ
Dans ce 4ème chapitre, le Pape Léon XIV se penche plus précisément sur les enjeux concrets de l’IA, depuis sa conception jusqu’à son utilisation, en passant par sa gouvernance et la formation à sa compréhension et son usage, dans les dimensions essentielles à la vie en société, démocratie, information et vérité, école et formation, travail…
« la transformation numérique nous invite à redécouvrir la vérité comme bien commun, à protéger la dignité du travail et à préserver la liberté contre toute dépendance et toute marchandisation »
VÉRITÉ ET DÉMOCRATIE
(§132) « L’utilisation des plateformes numériques et des systèmes d’IA accélère les profonds changements qui touchent la communication publique et politique. Des outils qui pourraient favoriser le débat et la participation sont souvent utilisés pour construire des récits déformés et brouiller les frontières entre le vrai et le faux, en mélangeant données et opinions. La désinformation n’est pas née avec l’IA, mais elle trouve aujourd’hui en elle un puissant multiplicateur. La possibilité de manipuler des contenus, des images et des vidéos expose les citoyens à des perspectives partielles ou trompeuses. Le problème touche à la dimension culturelle et morale, car la qualité de la communication publique dépend directement de la confiance sociale et a une incidence sur celle-ci. Une information véridique, en effet, ne naît pas d’un contrôle centralisé ou automatisé. Dans le discours public, la vérité des faits possède une dimension rationnelle car elle exige la vérification, le recoupement des sources et la responsabilité argumentative«
Malheureusement, la guerre mondiale contre l’information est très avancée au détriment des valeurs démocratiques; tant les ennemis de l’information sont plus forts, plus nombreux et plus puissants que ses défenseurs.
COMMENT LA SOCIÉTÉ INDIVIDUALISTE A PERDU LA QUÊTE DE VÉRITÉ
(§133) « Ceux qui disposent de puissantes ressources techniques et économiques – et, par là même, de nombreuses ressources humaines pour agir – ont une grande capacité à provoquer des changements culturels et, en fin de compte, à convaincre un nombre important de personnes de ce qu’est la vérité sur l’être humain, sur le monde, sur le sens de l’existence, sur la famille, voire sur Dieu. Il s’agit là d’un pouvoir pur, dépourvu de vérité, qui impose subtilement ou ouvertement ce qu’il veut que les autres considèrent comme vrai. Derrière tout cela se cache une racine malsaine difficile à reconnaître : le fait que « l’homme moderne est parfois convaincu, à tort, d’être le seul auteur de lui-même, de sa vie et de la société. C’est là une présomption, qui dérive de la fermeture égoïste sur lui-même ». [140]
Par conséquent, il pense pouvoir construire la réalité et considérer valable ce qui correspond le mieux à ses prétentions. Saint Jean-Paul II a réfléchi aux conséquences de la “crise autour de la vérité”, allant jusqu’à affirmer qu’« une fois perdue l’idée d’une vérité universelle quant au Bien connaissable par la raison humaine, la conception de la conscience est, elle aussi, inévitablement modifiée ». [141] »
LE DÉSINTÉRÊT POUR LA VÉRITÉ MÈNE AU TOTALITARISME
(§134) « La recherche de la vérité est un élément essentiel de la démocratie, qui est elle-même un instrument de participation au bien commun. Lorsque la question de savoir ce qui est vrai perd de son intérêt et qu’un pragmatisme se répand, se contentant de ce qui semble utile ou efficace, la vie démocratique s’affaiblit. En effet, celle-ci ne se nourrit pas seulement de règles et de procédures, mais avant tout d’un rapport loyal aux faits et d’une réelle orientation vers le bien des personnes et de la société. Le désintérêt pour la vérité conduit lentement mais inexorablement à glisser vers le totalitarisme, pour lequel, comme l’a écrit la philosophe Hannah Arendt, les sujets idéaux ne sont pas tant ceux qui sont idéologiquement convaincu, mais « les gens pour qui la distinction entre fait et fiction (c’est-à-dire la réalité de l’expérience) et la distinction entre vrai et faux (c’est-à-dire les normes de la pensée) n’existent plus ». [143] »
(§135) « Dans cette perspective, il est important de rappeler que la communication « n’est pas seulement la transmission d’informations, mais aussi la création d’une culture ». [144]
Les contenus qui circulent dans les espaces numériques influencent la manière dont les personnes perçoivent le monde et introduisent dans la conscience collective des images et des récits qui orientent les désirs et influencent les choix quotidiens. Ce « n’est pas un monde parallèle ou purement virtuel »,
[145] car ce qui naît en ligne fait désormais partie intégrante de la vie des personnes, surtout des plus jeunes. »
(§136) « C’est pourquoi ceux qui contrôlent les plateformes numériques et les moyens de communication ont une capacité remarquable pour influencer l’imaginaire collectif et présenter comme désirable une certaine vision de la réalité. C’est un pouvoir qui doit être constamment éclairé par la recherche de la vérité et le respect de la dignité humaine, afin que la culture qui se développe sur internet ne devienne pas un instrument de distraction excessive, d’uniformisation et de domination, mais un espace où puissent s’épanouir la liberté intérieure et la pensée critique. »
(§137) « Le premier devoir qui nous incombe est de ne pas diaboliser ni idolâtrer les outils, mais de les maîtriser en partant d’un point d’ancrage : la vérité est un bien commun, et non la propriété de ceux qui détiennent le pouvoir ou la visibilité. Il faut donc promouvoir une écologie de la communication : sur le plan des règles publiques, cela signifie établir des normes qui rendent plus transparentes les logiques selon lesquelles les contenus sont sélectionnés et amplifiés et qui protègent les données personnelles ; sur le plan social et culturel, en revanche, cela implique le renforcement des corps intermédiaires, un journalisme sérieux et des lieux de débat où comptent davantage l’argumentation et la vérification que la réaction immédiate; du côté de l’école et de la famille, la croissance du besoin d’une nouvelle conscience éducative et la formation à l’utilisation correcte et critique des outils numériques, de l’IA, des plateformes d’achat et d’investissement; du côté de l’université, le grand défi de l’intégration des savoirs, en formant à la fois à la capacité de relier et de fusionner les connaissances pour appréhender la complexité, et aux techniques de vérification des faits. »
(§140) « Au contraire, les processus éducatifs ont besoin de temps de croissance, d’une confrontation avec la réalité au-delà des apparences et d’un cheminement patient. La question est fondamentale, car toute technologie éduque ceux qui l’utilisent. Éduquer à l’utilisation de l’IA implique donc d’éduquer à décider quand et pourquoi ne pas l’utiliser. La rapidité et la facilité avec lesquelles on obtient une réponse ou une synthèse risquent d’éteindre le désir de poser des questions, qui ne porte ses fruits qu’avec le temps. Comme l’écrit Platon , les choses les plus profondes et les plus importantes ne s’apprennent qu’après beaucoup de temps et d’efforts, en s’engageant dans la discussion avec les autres pour “frotter” les concepts et les expériences comme s’il s’agissait de silex, jusqu’à ce que jaillisse en nous l’étincelle de la compréhension. [147] »
Quatre siècles avant Jésus Christ, [147] Platon, Lettre VII, 344b-c. : Ed : Souilhé, XIII/1, Paris 1931 (CUF, Série grecque 63), p. 54.
DOMMAGES DIRECTS ET COLLATÉRAUX, PSYCHIQUES ET MÉTABOLIQUES
(§141) « Ces dernières années, la littérature psychologique et psychiatrique a mis en évidence avec une insistance croissante comment une exposition précoce et non encadrée aux appareils numériques et aux réseaux sociaux peut avoir des répercussions négatives sur le sommeil, l’attention, la régulation émotionnelle et la vie relationnelle, en particulier chez les plus jeunes, avec des conséquences parfois dramatiques. À cela s’ajoute la facilité d’accès à des scènes violentes ou cruelles, qui blessent la sensibilité, à des contenus pornographiques et hypersexualisés, à des messages qui banalisent le corps et l’affectivité, ainsi qu’à des propositions qui normalisent des comportements à risque. Sur Internet, les phénomènes de détournement de mineurs, de chantage et d’exploitation sexuelle ne sont pas rares ; ils sont rendus plus insidieux par l’utilisation de faux profils, d’algorithmes qui amplifient les contacts dangereux et d’outils d’IA capables de manipuler des images et des vidéos. Le fait de disposer trop tôt d’un téléphone portable personnel et de l’utiliser sans contrôle parental peut accentuer la fragilité et favoriser les dépendances chez les jeunes, les exposant à des dynamiques d’isolement, de harcèlement et de cyberharcèlement, ainsi qu’à des pressions pour partager des images intimes ou des données sensibles. »
DÉFI PÉDAGOGIQUE : Le rôle central de l’école
(§143) « L’école est le lieu où les nouvelles générations peuvent apprendre à rechercher et à aimer la vérité, à s’interroger sur le sens de la vie et sur la dignité de chaque personne. »
(§145) « Le développement des technologies de l’information et de l’IA rend rapidement inadéquats les programmes d’études conçus pour une autre époque, tandis que l’organisation de l’école, les espaces, les méthodes d’évaluation et la figure même de l’enseignant doivent être repensés dans la perspective d’une éducation véritablement globale, ouverte à toutes les dimensions de la personne. Il est nécessaire de soutenir la formation continue des enseignants tout au long de leur vie professionnelle, afin qu’ils sachent dialoguer de manière positive avec les nouvelles technologies, en aidant les élèves à en faire un usage responsable, critique et créatif, et à ne pas subir passivement leur influence. »
CROISEMENTS ET ASSOCIATIONS D’IDÉES, PLUS RICHES QUE DES SAVOIRS BRUTS SEULS
(§146) « Le troisième grand défi est d’ordre intellectuel et lié à la sagesse. Si nous ne faisons pas attention, un système éducatif dépourvu d’amour pour la vérité risque de voir le jour, dans lequel le flux incessant d’informations se substitue à la recherche, à la réflexion et au discernement. Les connaissances fragmentaires se multiplient mais il devient plus difficile d’appréhender la réalité dans son ensemble, de poser des questions sur le sens des choses et de développer une véritable pensée critique et créative. De nombreux éducateurs perçoivent déjà les signes d’une possible déshumanisation où les personnes savent beaucoup de choses mais peinent à donner un sens à leur vie, notamment en raison de leur incapacité à relier les informations et les connaissances, et à ne pas en perdre de vue le sens. Il faut promouvoir une véritable hygiène de l’attention : des rythmes qui prévoient le silence, l’étude approfondie, la lecture, la confrontation mesurée ; sans ces éléments, la liberté intérieure risque d’être compromise. »
La dignité du travail dans la transition numérique / La valeur du travail
(§149) « le travail n’est pas un simple instrument, mais il exprime et renforce la dignité de notre vie. Il est une exigence inscrite dans la condition humaine, un chemin ordinaire vers la maturité, le développement et l’épanouissement personnel. Dans cette optique, les aides économiques aux pauvres restent parfois nécessaires dans les situations d’urgence, mais elles ne peuvent devenir la seule réponse, car l’objectif est de permettre à chacun de vivre dignement grâce à son travail. [151] »
OUI AUX IA STIMULANT L’INTELLIGENCE, NON AUX ROBOTS DÉBILITANTS ASSERVISSANTS
(§150) « Aujourd’hui, l’imbrication entre l’automatisation, la robotique et l’IA transforme rapidement la structure même du travail. Selon certains, cela apportera de grandes améliorations pour tous. En réalité, les “nouvelles façons” de travailler ne sont pas nécessairement meilleures « alors que l’IA promet de stimuler la productivité en prenant en charge des tâches ordinaires, les travailleurs sont souvent contraints de s’adapter à la vitesse et aux exigences des machines, au lieu que ces dernières soient conçues pour aider ceux qui travaillent. Ainsi, contrairement aux avantages annoncés de l’IA, les approches actuelles de la technologie peuvent paradoxalement déqualifier les travailleurs, les soumettre à une surveillance automatisée et les reléguer à des tâches rigides et répétitives. La nécessité de suivre le rythme de la technologie peut éroder le sentiment d’autonomie des travailleurs et étouffer les compétences innovantes qu’ils sont appelés à apporter à leur travail ». [152] C’est précisément pour éviter cette dérive qu’il faut concevoir des systèmes centrés sur la personne et non seulement sur la performance. »
LE TRAVAIL C’EST LA SANTÉ SOCIALE, PARTICIPATION À LA VIE ÉCONOMIQUE ET CITOYENNE
(§154) « Le travail reste une dimension fondamentale de l’expérience humaine : non pas seulement un moyen de subsistance, mais aussi un lieu d’expression, de relations et de contribution à la communauté. C’est pourquoi les problèmes liés au travail ne concernent pas uniquement le revenu nécessaire à la survie des familles. Une société qui ne garantirait du travail qu’à une petite partie de la population exposerait beaucoup de personnes à une situation d’inactivité forcée, d’absence de responsabilités, de manque d’engagement et de stimuli quotidiens, avec pour conséquence un appauvrissement humain et culturel en contradiction avec le niveau élevé de développement technique. Nous serions alors confrontés à un paradoxe de progrès matériel et de régression anthropologique, dans lequel les conditions d’une paix sociale juste et stable viendraient à manquer. C’est pourquoi la Doctrine sociale de l’Église insiste sur le fait que l’accès au travail pour tous doit rester un objectif prioritaire des politiques publiques et des processus économiques, un critère d’évaluation de la qualité humaine d’un modèle de développement. [155] D’ailleurs, dans les régions du monde où le travail tend à diminuer ou à se transformer radicalement sous l’effet de processus technologiques et organisationnels qui échappent au contrôle démocratique, il est nécessaire de repenser le travail lui-même et sa relation avec la citoyenneté, afin que l’absence d’emploi ne compromette pas la participation sociale. »
ASSOCIATIONS ET SYNDICATS POUR DÉFENDRE EXCLUS ET VULNÉRABLES
(§155) « À la lumière de cette conviction nous pouvons également relire l’histoire de la Doctrine sociale de l’Église après Rerumnovarum. Les initiatives nées dans ce sillage – associations, syndicats, coopératives, oeuvres caritatives – ont contribué de manière décisive à améliorer la législation du travail, à protéger les plus vulnérables et à promouvoir des conditions plus humaines. [156]
Aujourd’hui, cependant, ces instruments ne suffisent plus à eux seuls face aux transformations induites par l’IA, la nouvelle organisation des marchés et une compétitivité qui se soucie rarement de la durabilité sociale. Un nouvel effort concerté des responsables politiques, des organisations de travailleurs, du monde des entreprises et de la communauté scientifique est nécessaire pour élaborer rapidement des règles et des protections adéquates et partagées, y compris au niveau international. [157] Les organisations syndicales, que l’Église a toujours soutenues, sont appelées à s’ouvrir aux nouvelles formes de travail et aux nouveaux travailleurs, afin de les représenter et de les défendre dans un contexte où, sans choix courageux, se profilent davantage de pauvreté et d’inégalités, avec une multitude d’exclus entourés de machines et de systèmes automatisés qui ont pris leur place. »
INNOVATION SOCIALE ENCADRÉE MESURÉE, OU ACCÉLÉRATEUR D’INJUSTICE
(§156) « Dans cette transition, il ne suffit pas de réagir lorsque des emplois disparaissent, mais il faut anticiper la transformation. Une voie envisageable consiste tout d’abord à fixer des critères sociaux pour l’innovation : toute mise en place de l’automatisation et de l’IA devrait s’accompagner de mesures vérifiables en matière de protection de l’emploi, de reconversion professionnelle et de participation des travailleurs, afin que la technologie vise à libérer du temps et des capacités humaines, et non à générer de l’exclusion. Deuxièmement, il est nécessaire que des politiques actives rendent accessibles à tous la formation continue et les transitions professionnelles, sans faire peser sur les individus l’intégralité du coût de l’adaptation aux transformations. Enfin, il faut une responsabilité des entreprises qui inclue la qualité et la dignité du travail parmi les indicateurs de réussite. Lorsque ces conditions sont réunies, l’innovation peut devenir l’alliée d’un travail plus sûr, plus créatif et plus digne ; lorsqu’elles font défaut, elle tend à se transformer en une accélération de l’injustice. »
L’ENTREPRISE PEUT ENRICHIR LA SOCIÉTÉ SI ELLE CRÉE DES EMPLOIS DIGNES DE VALEUR
(§157) « Le marché du travail est l’un des domaines où les risques liés aux nouvelles technologies apparaissent le plus clairement. C’est pourquoi il faut rappeler que la liberté économique n’est pas absolue. Elle doit toujours être mesurée à l’aune du bien commun et de la dignité de chaque personne. L’initiative entrepreneuriale peut être une véritable vocation, capable de générer de la richesse et d’améliorer la vie de tous, à condition que la création d’emplois dignes et de valeur soit considérée comme une partie essentielle de son service à la société et non comme une variable dépendant uniquement du profit. [158] »
AU-DELÀ DU PIB, MESURES STATISTIQUES DES OBJECTIFS DE DÉVELOPPEMENT DURABLE
(§159) « Depuis plus de quatre-vingts ans, on constate la nécessité de dépasser les paramètres actuels de mesure du niveau de développement étroitement liés au concept de Produit Intérieur Brut (PIB). Presque systématiquement, le PIB néglige des aspects essentiels du bien-être global des personnes et de l’environnement. Parallèlement, le PIB valorise des activités qui ont un impact, à court ou à long terme, sur la vie de notre planète. La mise au point de paramètres et d’indicateurs complémentaires au PIB est décisive pour améliorer les données de base utilisées pour effectuer des analyses, prendre des décisions politiques et économiques, et définir les priorités régionales, nationales et internationales »
C’est tout l’enjeu du rapport Stiglitz-Fitoussi-Sen, remis en 2009 au président Nicolas Sarkozy, décliné par la suite sous la forme de 17 Objectifs de Développement Durable (ODD, ou SDG pour Sustainable Development Goals), adoptés par les Nations Unies en 2015 pour prendre la relève des 8 des « Objectifs du millénaire », adoptés en 2000 pour une atteinte en 2015 (toujours pas atteints en 2026…). Malheureusement les 17 ODD de 2015 ne seront pas plus atteints en 2030 (leur horizon affiché), tant le sujet est complexe à mesurer (cf travaux du Cnis.fr), avant même son rejet par la radicalisation droitière anti-woke, ayant déclaré la guerre (réelle) contre toute politique sociale, sanitaire et/ou environnementale.
ÉPARGNE ET CRÉDITS ESSENTIELS, LA FINANCE ABUSIVE CAUSE DES CRISES MONDIALES
(§160) « La finance a pris une importance croissante ces dernières années et a connu une forte innovation également suite à l’introduction des cryptomonnaies. Les réflexions et les indications contenues dans le Magistère de mes Prédécesseurs, en particulier dans les Encycliques, ont mis en évidence que le fonctionnement de l’intermédiation financière « lorsqu’il est déconnecté des justes fondements anthropologiques et moraux, non seulement produit des abus et des injustices évidents, mais se révèle capable de créer des crises systémiques de portée mondiale ». [161]
Il est tout aussi vrai que la rentabilité du capital risque de se substituer au revenu du travail, souvent relégué en marge des principaux intérêts du système économique. Pourtant, l’épargne qui se transforme en crédit pour l’économie réelle, et pour créer des emplois salariés ou indépendants, reste centrale pour le développement et pour les investissements qui doivent accompagner les transitions en cours. La fonction sociale du crédit reste irremplaçable. La finance pour la finance est bien différente de la finance pour le développement et pour la création et l’évolution du travail. »
JUSTICE SOCIALE DÈS LA CRÉATION DE RICHESSE PLUTÔT QU’EN DÉBAT SUR SA REDISTRIBUTION
(§162) « Il faut certes des lois justes et des instruments de redistribution qui corrigent les déséquilibres, notamment par le biais de systèmes fiscaux en allégeant la charge pesant sur les plus faibles et exigent davantage de ceux qui disposent de ressources plus importantes. Mais il ne faut pas considérer la recherche de la justice sociale comme une question distincte et postérieure à la production de richesse, comme si l’économie devait simplement créer de la valeur et la politique n’intervenir qu’ensuite pour la redistribuer. Au contraire, la justice concerne toutes les phases de l’activité économique, de la mobilisation des ressources au financement, de la production à la consommation, et chaque choix a des conséquences morales. [163] »
LES DÉCISIONS DES IA SUR DATA ET ALGO DOIVENT ÊTRE CLAIRES, CONTESTABLES, CONTRÔLABLES
(§164) « Concrètement, orienter l’économie vers la dignité signifie adopter certains critères d’action stables, même à l’ère de l’IA. Tout d’abord, la transparence et la responsabilité : lorsque les données et les algorithmes influencent l’octroi de crédits, la sélection du personnel, l’accès aux services ou aux opportunités, il est nécessaire que les décisions soient compréhensibles, contestables et soumises à un contrôle, afin que la personne ne soit pas réduite à un simple profil. En second lieu, l’inclusion et l’accès : les bénéfices de l’innovation doivent s’accompagner d’investissements dans les compétences, les infrastructures et les services essentiels, afin que la technologie ne creuse pas davantage le fossé entre ceux qui ont et ceux qui n’ont pas. Enfin, des mesures d’équité : la fiscalité, la protection sociale et les politiques industrielles doivent corriger les déséquilibres créés par la concentration de la richesse et du pouvoir. Ces critères ne sont pas un frein à l’innovation : ils la rendent, en réalité, viable et humaine. »
EFFICACITÉ FINANCIÈRE AU PRIX D’UNE DISLOCATION SOCIALE ET MAUVAISE SANTÉ MENTALE
(§166) « À court terme, il peut sembler avantageux de réduire le coût du travail ou de maximiser l’efficacité financière, mais à long terme, cela sape les fondements mêmes de la vie en société : tandis que l’on célèbre les succès technologiques, la structure sociale s’érode progressivement, comme sous l’effet d’un virus silencieux«
Les dégâts des médias sociaux sur la santé mentale mondiale sont un sujet aussi tabou pour les géants du web, que l’explosion des pathologies environnementales (et décès par maladies non contagieuses) pour les industries qui les propagent.
Dépendances et contrôle social
L’ÉCONOMIE DE L’ATTENTION = FAVORISE ADDICTION ÉCRAN ET MANIPULATIONS MORBIDES
(§170) Après avoir abordé les thèmes de la vérité et de l’éducation, du travail et de la famille, nous devons maintenant nous pencher sur l’impact de la révolution numérique sur la liberté humaine, en réfléchissant à la manière d’affronter tant les risques liés à la psychologie individuelle que les grands drames sociaux. Il ne faut pas sous-estimer les formes les plus subtiles de dépendance liées à l’économie numérique de l’attention, où les plateformes et les services sont conçus pour capter le temps et le regard des utilisateurs, en exploitant leurs fragilités et en affaiblissant leur liberté intérieure. Lorsque des modèles commerciaux prospèrent sur la faiblesse humaine, la personne est traitée comme un moyen et non comme une fin, et ceux qui conçoivent ou financent ces systèmes assument une responsabilité morale à laquelle ils ne peuvent se soustraire. Il est urgent de promouvoir une utilisation des technologies qui renforce la liberté intérieure : éducation à la sobriété numérique, protection des mineurs et lutte contre les modèles qui prospèrent sur la vulnérabilité. »
Ces fléaux sont bien documentés https://www.theguardian.com/media/2026/mar/25/jury-verdict-us-first-social-media-addiction-trial-meta-youtube
RISQUE DE SURVEILLANCE MASSIVE ET CONTRÔLE SOCIAL
(§171) « Un autre risque, moins visible mais non moins grave, est celui du contrôle social, rendu possible par la collecte massive de données et l’utilisation de systèmes algorithmiques. Lorsque chaque geste laisse des traces – déplacements, achats, relations,préférences –, un nouveau pouvoir se crée : celui de profiler, de prévoir et d’orienter les comportements, souvent sans que les personnes en aient pleinement conscience. Si ces données sont utilisées pour prendre des décisions qui ont une incidence sur des opportunités concrètes (accès au crédit, recrutement, services), on risque de porter atteinte à la liberté et de discriminer les plus vulnérables. De plus, le contrôle ne passe pas seulement par des interdictions explicites, mais par l’architecture de la visibilité : ce qui est amplifié ou rendu invisible, ce qui est récompensé ou pénalisé, finit par façonner les opinions et les choix, générant conformisme et autocensure. C’est pourquoi la liberté, à l’ère numérique, n’est pas seulement une question intérieure :elle est aussi une question publique, qui exige des règles claires, de la transparence, des voies de recours et des limites proportionnées à l’utilisation de technologies intrusives, afin que la technique reste au service de la personne et ne devienne pas une forme d’emprise des consciences. »
LOGIQUES TECHNOCRATIQUES DE SUBORDINATION DES INDIVIDUS
(§172) « À l’origine de ces problèmes se trouve une mentalité technocratique et post-humaniste qui tend à considérer la personne comme un objet manipulable ou une ressource à optimiser, [172] en éliminant tout ce qui fixe des limites à la maximisation du profit : ce qui compte, c’est l’efficacité, et non le respect de la liberté et de la dignité humaine. Certains courants post-humanistes vont même jusqu’à envisager des êtres humains “de seconde classe”, au service des intérêts d’élites qui se perçoivent comme supérieures : une perspective inquiétante, d’autant plus grave lorsqu’elle s’associe à des outils technologiques qui amplifient de manière exponentielle le pouvoir de contrôle et de sélection. De même certaines logiques d’endettement structurel qui maintiennent des peuples entiers dans des conditions de dépendance, révèlent la même mentalité en acceptant, sous de nouvelles formes, des relations de subordination proches de l’esclavage. »
En écho à cette logique de subordination technocratique écoute instructive sur les difficultés d’insertion des jeunes (France Culture « le fil éco »), avec un éclairage sur le rôle du crédit conso institutionnalisé comme béquille structurelle des sous-salaires.
PAS DE MAGIE DANS L’IA, DES MILLIONS DE PRÉCAIRES INVISIBLES EXPLOITÉS
(§173) « Cette vision déformée de la personne se traduit aujourd’hui par diverses formes d’asservissement directement liées à l’économie numérique. Rien, dans le monde de l’IA, n’est immatériel ou magique. Chaque réponse qui semble immédiate et parfaite provient d’une longue chaîne de médiations, d’un vaste réseau de ressources naturelles, d’infrastructures énergétiques et, surtout, de personnes. Une part importante du fonctionnement de l’économie numérique repose sur le travail silencieux de millions d’êtres humains, employés à des activités peu visibles mais essentielles : étiquetage des données, modération des contenus – souvent très mauvais –, apprentissage des modèles. Dans de nombreux cas il s’agit de jeunes, pour la majorité des femmes, qui travaillent laborieusement pour un salaire de misère. À cette fatigue invisible s’ajoute celle, encore plus brutale, de l’extraction des ressources nécessaires à la production des appareils et des microprocesseurs sur lesquels repose l’IA. Dans certaines régions du monde, des enfants et des adolescents travaillent dans des conditions dangereuses au broyage des matériaux dont on tire les terres rares. Des corps marqués, mutilés, utilisés pour que le flux de calcul ne s’interrompe jamais. En outre, des réseaux criminels utilisent des plateformes en ligne, des systèmes de messagerie, des paiements anonymes et des techniques de profilage pour recruter, contrôler et déplacer des victimes de la traite, fréquemment mineures, transformant hommes et femmes en “données” à tracer et en “colis” à déplacer au sein des mêmes circuits numériques qui soutiennent une grande partie de l’économie mondiale. Cette réalité interpelle profondément la conscience morale de notre temps. Il ne suffit pas d’invoquer l’efficacité, ni de célébrer les bienfaits de l’innovation, s’ils reposent sur une chaîne d’exploitation qui reste délibérément invisible. Si une technologie promet l’émancipation mais produit de nouvelles formes de subordination mondiale, elle contredit le principe fondamental de la dignité de la personne. »
§176 ET UN MEA CULPA SUR L’ESCLAVAGE PASSÉ
§177 LA LUCIDITÉ HISTORIQUE POUR ÉVITER LES RÉCIDIVES DÉSHUMANISANTES ?
GARE AU NOUVEAU COLONIALISME DES EMPIRES DU BIG DATA PILLANT LES PEUPLES
§178 « Le colonialisme revêt de nos jours un visage inédit. Il ne domine pas seulement les corps, mais s’approprie les données, transformant les vies personnelles en informations exploitables. Des territoires entiers, en particulier ceux de moindre importance géopolitique et de plus grande fragilité structurelle, sont actuellement traversés par une nouvelle logique d’extraction : celle des flux sanitaires, profils épidémiologiques, cartes génétiques et données démographiques. Ce sont là les nouvelles “terres rares” du pouvoir : des informations vitales qui, une fois mises en relation, peuvent servir à entraîner des modèles prédictifs, à orienter des stratégies d’investissement, à anticiper les crises et surtout à sélectionner les personnes et les choses qui comptent. Celui qui détient les données sanitaires de populations entières, aujourd’hui souvent collectées sous le couvert de l’aide, de la recherche ou de l’innovation, détient en réalité un levier structurel sur l’avenir : il peut modeler les besoins et les marchés. Et il peut décider, avant les autres, à qui destiner les médicaments, les investissements et les protections. C’est là que se joue l’un des enjeux moraux les plus urgents de notre époque : transformer la connaissance partagée en bien commun, et non en levier de domination; rendre aux peuples non seulement les données qui les décrivent, mais aussi la possibilité de décider comment elles seront utilisées, par qui et pour qui. Autrement, l’ère numérique ne sera pas postcoloniale, mais coloniale sous une nouvelle forme. »
On pense ici au choix européen de protéger les citoyens d’une exploitation sauvage de leurs données personnelles, esprit de nos règlements européens RGPD (Règlement Général sur la Protection des Données, 2016) et DSA (Digital Service Act, en vigueur depuis février 2024) régulant le pillage des données individuelles par les services numériques, que les lobbies des géants étasuniens de la data combattent, avec le soutien de Trump menaçant l’UE de représailles en cas d’application de nos lois.
TROIS VOEUX PIEUX PIÉTINÉS PAR L’HYPOCRISIE DES PROMESSES ESG
(§179) « Les nouvelles formes d’esclavage se nourrissent de chaînes économiques et d’infrastructures numériques. Il faut donc oeuvrer dans plusieurs directions : tout d’abord, en renforçant les exigences en matière de transparence des filières qui soutiennent l’industrie technologique et l’économie numérique, afin qu’aucun avantage concurrentiel ne repose sur une exploitation invisible. Deuxièmement, il est nécessaire que les entreprises et les investisseurs adoptent des critères clairs de vérification éthique préventive (due diligence), en incluant parmi leurs priorités la protection des travailleurs, la lutte contre le travail forcé et l’impact social des modèles d’entreprise basés sur les données. En outre, les plateformes numériques doivent être appelées à coopérer de manière responsable avec les autorités et la société civile afin d’empêcher que les outils de communication, de paiement et de ciblage ne deviennent des canaux de recrutement et de contrôle des victimes. »
Les promesses de l’Investissement Socialement Responsable (ISR) respectant des critères Environnementaux, Sociaux et de Gouvernance (ESG) partent d’un bon sentiment, auquel s’attachent de nombreux chercheurs et professionnels bien intentionnés, mais en vain.
Quand aucun professionnel ou investisseur ISR que j’ai interrogé (incluant les gérants de nos retraites), ne voit de problème ESG à investir dans les entreprises d’un ennemi juré des valeurs environnementales, sociales et de gouvernance, Elon MUSK (pour n’en citer qu’un); ne cherchez pas plus loin, ça ne vaut rien.
