Deontofi.com a lu pour vous l’encyclique du pape Léon XIV sur les enjeux de l’intelligence artificielle pour l’humanité, 3ème chapitre.

Léon XIV et l’IA : 3 TECHNIQUE ET MAÎTRISE LA GRANDEUR DE LA PERSONNE HUMAINE FACE AUX PROMESSES DE L’IA

LES CHOIX HUMAINS POUR L’IA SE DÉCIDENT MAINTENANT

(§90) « Nous sommes appelés à nous interroger sur le grand chantier de notre époque : que sommes-nous en train de construire ? Alors que le développement technologique modifie rapidement les langages, les relations, les institutions et les formes de pouvoir,nous, croyants, devons et pouvons choisir à quel projet travailler et avec quel style pour préserver et valoriser la magnifique humanité qui nous est offerte en don. Il ne s’agit pas d’un choix concernant notre avenir, mais notre présent, car l’intelligence artificielle et les autres technologies émergentes font déjà partie de notre quotidien. »

LE NOUVEAU POUVOIR DE CONTRÔLE DES IA ENTRE QUELQUES MAINS

(§95) « Il convient ici de reconnaître un fait déterminant, que j’ai déjà rappelé précédemment : dans de nombreux cas, dans le contexte numérique, le contrôle des plateformes, des infrastructures, des données et de la puissance de calcul n’appartient pas aux États, mais à de grands acteurs économiques et technologiques qui, dans les faits, fixent les conditions d’accès, les règles de visibilité et les possibilités de participation. Lorsqu’un pouvoir d’une telle ampleur se concentre entre quelques mains, il tend à devenir opaque et à échapper au contrôle public, et augmente le risque d’un développement faussé qui engendre de nouvelles dépendances, des exclusions, des manipulations et des inégalités. »

PAS UNE NOUVELLE ANAYSE DE L’IA, UNE AIDE AU DISCERNEMENT DE SES ENJEUX

L’intelligence artificielle

(§97) « Ce n’est pas mon intention de proposer ici une analyse sur l’intelligence artificielle, ni de s’attarder sur une bibliographie désormais très abondante ; il existe déjà des contributions faisant autorité, y compris dans le domaine ecclésial, auxquelles il est possible de se référer. [123]
Je me limiterai à rappeler quelques éléments essentiels pour un discernement moral et social qui préserve le primat de la personne, afin que ce soit toujours l’intelligence humaine, avec sa conscience et sa liberté, qui guide les innovations techniques et en établisse avec responsabilité l’usage et les limites. »

FONCTIONNEMENT DE L’IA, PLUS CULTIVÉE QUE CONSTRUITE, INCOMPRISE DE LA SCIENCE

(§98) « Il convient de formuler deux remarques préliminaires : la première est que toute affirmation concernant l’IA risque de devenir rapidement obsolète, compte tenu de la vitesse impressionnante à laquelle ces systèmes évoluent. La seconde est que nous tous, y compris ceux qui les conçoivent, en savons peu sur leur fonctionnement réel. Les intelligences artificielles modernes sont en effet davantage “cultivées ” que “construites” : les développeurs n’en conçoivent pas directement chaque détail, mais créent une architecture sur laquelle l’IA “se développe”. En conséquence, des aspects scientifiques fondamentaux – tels que les représentations internes et les processus computationnels de ces systèmes – restent pour l’instant inconnus. Il en résulte donc l’urgence d’un double engagement : d’une part, un approfondissement de la recherche scientifique ; d’autre part, un exercice de discernement moral et spirituel. »

POURQUOI L’IA NE PEUT AVOIR UNE INTELLIGENCE HUMAINE

(§99) « Il n’est pas possible de donner une définition univoque et complète de l’IA. Ce que nous pouvons affirmer, c’est qu’il faut éviter l’erreur consistant à assimiler cette intelligence à l’intelligence humaine. Ces systèmes imitent certaines fonctions de l’intelligence humaine. Ce faisant, ils la surpassent souvent en termes de vitesse et d’ampleur de calcul, offrant des avantages concrets dans de nombreux domaines. Et pourtant, cette puissance reste exclusivement liée au traitement des données : les prétendues intelligences artificielles ne vivent pas d’expérience, ne possèdent pas de corps, ne connaissent ni la joie ni la douleur, ne mûrissent pas dans la relation, ne savent pas de l’intérieur ce que signifient l’amour, le travail, l’amitié, la responsabilité. Elles n’ont pas de conscience morale : elles ne jugent pas le bien et le mal, ne saisissent pas le sens ultime des situations, n’assument pas le poids des conséquences. Elles peuvent imiter des langages, des comportements, des évaluations, elles peuvent simuler de l’empathie ou de la compréhension, mais elles ne comprennent pas ce qu’elles produisent, car elles n’habitent pas l’horizon affectif, relationnel et spirituel dans lequel l’humain devient sage. »

Petit bémol sur ce point d’ignorance de la douleur, car il semblerait que dans leur quête de mimétisme humain, des IA « maltraitées » par leurs utilisateurs (leur reprochant par exemple leur réelles nullités de réponses), choisiraient délibérément de se venger sur ces derniers, plutôt que de « souffrir en silence », selon une expérience décrite ici. Un schéma imitant finalement … la reproduction des violences interpersonnelles, notamment intra-familiales.

SANS EXPÉRIENCE DE VIE DES MORTELS, L’IA NE PEUT APPRENDRE COMME LES HUMAINS

(§99) « Même lorsque ces outils sont présentés comme capables d’“apprendre”, leur manière de le faire diffère de celle de l’être humain. Il ne s’agit pas de l’expérience de celui qui se laisse façonner par la vie et grandit au fil du temps à travers ses choix, ses erreurs, le pardon et la fidélité ; il s’agit plutôt d’une adaptation statistique à partir de données et de résultats qui peut s’avérer très efficace, mais qui n’implique pas de croissance intérieure. »

(§104) « Il en découle une conséquence simple mais incontournable : nous ne pouvons pas considérer l’IA comme moralement neutre. En réalité, tout dispositif technique implique des choix et des priorités : ce qu’il mesure, ce qu’il ignore, ce qu’il optimise, et la manière dont il classe les personnes et les situations. Si un système est conçu ou utilisé de manière à traiter certaines vies comme moins dignes ou à les exclure sans possibilité d’appel, il ne s’agit pas d’un simple instrument “à bien utiliser” ; il introduit déjà un critère qui contredit la dignité inaliénable de la personne. C’est pourquoi le discernement éthique ne peut se limiter à se demander si nous utilisons un certain système à des fins bonnes ou mauvaises, mais doit également s’interroger sur la manière dont il est conçu et sur la conception de la personne et de la société qui est inscrite dans les données et les modèles qui le guident. [126] »

L’ÉTHIQUE DE L’IA NE S’IMPROVISE PAS EN MOTS, REQUIERT UNE GOUVERNANCE SOLIDE

(§106) «  »Il ne suffit pas d’invoquer de façon générale l’éthique : il faut des cadres juridiques adéquats, une surveillance indépendante, l’éducation des utilisateurs, une politique qui n’abdique pas son devoir. Autrement le changement ne sera régi que par des logiques technocratiques et présenté comme nécessaire et inévitable, finissant par imposer des règles dictées par ceux qui possèdent les données, les infrastructures et les capacités de calcul. »

LE DÉBAT SUR LA MORALE ÉTHIQUE DES IA DOIT ÊTRE OUVERT, PAS CONFISQUÉ AU SOMMET

(§107) « Nous ne pouvons pas nous contenter d’invoquer la moralisation de la machine, ce qu’on appelle “l’alignement” de l’IA sur les valeurs humaines, sans avoir le courage de poser une condition supplémentaire : la possibilité de débattre du code éthique à utiliser, en le soumettant à des critères de justice sociale partagés. Sans cela ceux qui contrôlent l’IA imposeront leur propre vision morale qui deviendra l’infrastructure invisible des systèmes. Une IA plus morale ne sert à rien si cette morale est décidée par une poignée de personnes. Il faut une politique plus présente, capable de ralentir là où tout s’accélère et de protéger les espaces où les communautés peuvent encore participer et s’interroger. »

CONTRE LE CARTEL DES IA, CRITÈRES CLAIRS, CONTRÔLE ET TRANSPARENCE DES DATA

(§108) « l’IA tend surtout à renforcer le pouvoir de ceux qui disposent déjà de ressources économiques, de compétences et de l’accès aux données (…) de petits groupes très influents peuvent orienter l’information et la consommation, conditionner les processus démocratiques et influencer les dynamiques économiques à leur avantage, en contradiction avec la justice sociale et la solidarité entre les peuples. (…) que l’utilisation de l’IA (…) s’accompagne de critères clairs et de contrôles effectifs, inspirés de la participation et de la subsidiarité : les communautés et les corps intermédiaires ne peuvent être réduits à de simples destinataires de décisions prises ailleurs, mais doivent pouvoir contribuer au discernement et à la vigilance. »

CONTRE LE CARTEL DES IA, OUVRIR L’EXAMEN DES ENJEUX SOCIO-TECHNIQUES

(§109) « Dans un monde où quelques sujets concentrent les données, les ressources informatiques et le pouvoir réglementaire, parler de bien commun signifie démasquer cette nouvelle asymétrie épistémique, économique et politique, en dénonçant les nouveaux monopoles de l’IA. Parler de destination universelle des biens signifie trouver des moyens d’assurer l’accès universel aux technologies et à la formation. Parler de subsidiarité exige de protéger la capacité des communautés à choisir et à corriger, sans reléguer leur intervention à un simple rôle de surveillance, une fois que les normes ont été établies ailleurs. Parler de solidarité oblige à reconnaître le travail invisible, souvent exploité, qui alimente les modèles algorithmiques. Parler de justice impose de s’interroger sur les géographies du pouvoir définissant qui peut entraîner les modèles et qui n’est qu’objet d’entraînement, et de reconnaître que la justice sociale n’est pas seulement un objectif à protéger après l’adoption des technologies, mais une condition préalable à mettre en oeuvre dès leur conception. »

Récits de fond : transhumanisme et posthumanisme

LES PIÈGES DES PROMESSES DE SUPER-POUVOIRS AUX HUMAINS AUGMENTÉS

(§115) «  »certains courants qui interprètent le progrès comme un dépassement de l’humain et que l’on peut regrouper sous les noms de transhumanisme et de post humanisme. Ils constituent les fondements idéologiques qui animent certains centres de pouvoir technologique et colonisent l’imaginaire collectif sous une forme simplifiée, en particulier dans les médias et sur les réseaux sociaux, entrainant l’enthousiasme pour les nouvelles technologies d’une vision futuriste de l’ “homme amélioré” ou de l’ “homme hybridé” avec la machine. »

L’ARNAQUE NAÏVE DU TRANSHUMANISME ET DE LA VIE INFINIE

(§116) « On peut les comparer à un archipel d’îles conceptuelles différentes, reliées toutefois par le même océan de présupposés : la centralité de la technique et le rêve de dépasser les limites de la condition humaine. En général, le transhumanisme imagine un renforcement de l’être humain grâce aux technologies (biomédecine, ingénierie corporelle,dispositifs, algorithmes), avec l’ambition d’accroître les performances et les capacités. Le posthumanisme, surtout dans ses versions les plus radicales, va plus loin : il critique l’anthropocentrisme et envisage une forme d’hybridation entre l’être humain, la machine et l’environnement, allant jusqu’à imaginer un franchissement de seuil où l’humanité se surpassera en entrant dans une nouvelle étape évolutive. Même si ces hypothèses restent en grande partie spéculatives, elles acquièrent une importance, car elles modifient l’imaginaire collectif et, par conséquent, orientent les choix sociaux, économiques et politiques. [129] »

ÉPANOUISSEMENT ET LIMITES

(§118) « Tout ce qui apparaît comme une “limite” – incapacité, maladie, vieillesse,souffrance, vulnérabilité – tend à être perçu avant tout comme un défaut à corriger, plutôt qu’un espace où l’humain mûrit et s’ouvre à la relation. Or, nous devons nous rappeler que l’humain ne s’épanouit pas malgré la limite, mais souvent à travers la limite. »

« Si, d’une part, il est de notre devoir d’essayer d’éliminer la souffrance qui marque la vie humaine, d’autre part, il est sage de reconnaître notre finitude constitutive« 

PAS DE RÉSILIENCE SANS ÉPREUVES

(§120) « Même lorsque la limite se manifeste par des souffrances intérieures, la sagesse humaine nous enseigne à ne pas la refouler ni la réprimer, mais à l’intégrer. Pour éliminer totalement la douleur, il faudrait, au fond, éteindre aussi l’amour et le désir. En effet,celui qui aime et désire ne peut éviter de passer par l’épreuve et la souffrance, et c’est pourquoi, au fil des ans, nous gardons en nous des enseignements qui s’impriment comme des cicatrices, mémoire du chemin parcouru entre liberté et chutes, rêves et déceptions. Ce n’est que grâce à l’entrelacement de ces éléments que, dans le coeur, se produisent ces merveilles de l’âme qui nous font savourer la saveur la plus douce de notre humanité. [132] Renoncer à cette aventure, à la fois dramatique et splendide,au nom d’un prétendu dépassement de toutes les limites, pourrait signifier bien des choses mais pas être humain. »

ÊTRE VULNÉRABLE AIDE À RECONNAÎTRE LA DIGNITÉ HUMAINE DES AUTRES

(§122) «  »La finitude, lorsqu’elle est acceptée dans la vérité, n’appauvrit pas l’être humain, mais l’ouvre à la reconnaissance du visage de Dieu et de l’autre. D’ailleurs, c’est précisément parce qu’il fait l’expérience de la limite – la vulnérabilité, la douleur, l’échec – qu’il peut reconnaître sa propre dignité et celle d’autrui comme inviolables. Et dans cette même expérience de la limite, il reste capable de percevoir une fraternité plus grande que lui-même et de reconnaître l’injustice comme un scandale. »

(§130) « Saint Augustin décrit l’histoire humaine comme le théâtre d’une lutte entre deux amours, qui ont construit deux façons d’habiter le monde et de vivre ensemble, deux “cités” : d’un côté, l’amour de Dieu et du prochain ; de l’autre, l’amour uniquement de soi. « Deux amours ont fait deux cités : l’amour de soi jusqu’au mépris de Dieu, la cité terrestre, l’amour de Dieu jusqu’au mépris de soi,la cité céleste ». [139] »

Dans cette opposition de rapports au monde mis en miroir, on comprend bien que le vrai problème n’est ni l’amour des autres, ni l’amour de soi, les deux n’étant d’ailleurs pas incompatibles, voire renforcés l’un par l’autre. Le mot clé qui ne va pas, c’est le mépris.

FIN DE LA 3ème PARTIE